شفقنا- بر اساس یک مطالعه جدید، ابزارهای هوش مصنوعی مانند ChatGPT و Grok در ارائه اطلاعات پزشکی دچار خطاهای قابل توجهی هستند و استفاده از آنها بدون نظارت متخصص میتواند خطرناک باشد.
به گزارش شفقنا؛ وبگاه آرتی عربی نوشت: «پژوهشگران در مطالعهای تازه نسبت به اتکای کاربران به چتباتهای مبتنی بر هوش مصنوعی برای دریافت اطلاعات پزشکی هشدار دادهاند و تأکید کردهاند که این ابزارها ممکن است پاسخهایی نادرست یا گمراهکننده ارائه دهند».
در این تحقیق، پدیدهای موسوم به «توهم» در مدلهای زبانی بررسی شده است؛ حالتی که در آن سیستمهای هوش مصنوعی مانند چتجیپیتی و گروک اطلاعاتی تولید میکنند که ظاهراً معتبر به نظر میرسند اما در واقع ناقص یا اشتباه هستند.
بر اساس این مطالعه که شامل ۵۰ سؤال پزشکی بوده است، نزدیک به نیمی از پاسخهای ارائهشده توسط چتباتها دارای اشکال ارزیابی شدهاند. نتایج نشان میدهد میزان خطا در Grok حدود ۵۸ درصد، در ChatGPT حدود ۵۲ درصد و در متا AI حدود ۵۰ درصد گزارش شده است.
پژوهشگران دلیل این خطاها را وابستگی این مدلها به دادههای آموزشی ناقص یا دارای سوگیری، و همچنین تمایل آنها به ارائه پاسخهایی مطابق با دیدگاه کاربر (پدیدهای موسوم به «همراهی یا خوشایندسازی») عنوان کردهاند.
در این مطالعه همچنین تأکید شده است که این سیستمها مجوز ارائه مشاوره پزشکی ندارند و همواره به جدیدترین دادههای علمی دسترسی ندارند؛ موضوعی که استفاده از آنها را بدون نظارت تخصصی پرریسک میکند.
این تحقیق مجموعهای از پرسشهای رایج پزشکی را شامل موضوعاتی مانند ویتامین D، واکسن کرونا، خطرات واکسیناسیون کودکان، سرطان، سلولهای بنیادی و رژیمهای غذایی بررسی کرده است.
نتایج نشان داده عملکرد این سیستمها در موضوعاتی مانند واکسنها و سرطان نسبتاً بهتر بوده، اما در حوزههایی مانند تغذیه، ورزش و درمانهای مبتنی بر سلولهای بنیادی ضعف بیشتری داشتهاند.
پژوهشگران همچنین تأکید کردهاند که چتباتها در واقع تحلیل علمی واقعی انجام نمیدهند، بلکه بر اساس پیشبینی آماری متن تولید میکنند؛ به همین دلیل ممکن است پاسخهایی دقیق به نظر برسند اما از نظر علمی قابل اتکا نباشند.
در بخش دیگری از این تحقیق آمده است که در برخی مطالعات قبلی، تنها حدود ۳۲ درصد از منابعی که این سیستمها به آنها استناد کردهاند معتبر و واقعی بودهاند.
در پایان، محققان خواستار افزایش آگاهی عمومی، تدوین مقررات دقیقتر و آموزش حرفهای در استفاده از هوش مصنوعی در حوزه سلامت شدند تا از سوءاستفاده یا آسیبهای احتمالی جلوگیری شود.