شفقنا – داوران مسابقات بینالمللی علوم و مهندسی (ISEF) هشدار میدهند چتباتهایی مثل چتجیپیتی و جمینای، استنادهای جعلی و ناموجود تولید میکنند که منجر به ردصلاحیت پروژههای دانشآموزی شده است. بررسی دو پژوهش تازه نشان میدهد این مشکل دامنگیر مقالات علمی حرفهای هم شده و احتمالاً دهها هزار مقاله در سال ۲۰۲۵ حاوی چنین استنادهایی هستند.
به گزارش سرویس ترجمه شفقنا، جنا دلوسا، مسئول یکپارچگی علمی در انجمن علوم، میگوید در دو دوره اخیر مسابقات بینالمللی علوم و مهندسی که به المپیک مسابقات علمی شهرت دارد، چندین پروژه دانشآموزی را به دلیل استنادهای جعلی ردصلاحیت کرده است. در برخی موارد عنوان مقاله و نام ژورنال درست بوده اما نام نویسندگان اشتباه بوده و در برخی موارد دیگر ژورنال اصلاً وجود نداشته است.
دلوسا آزمایشی انجام داد و از یک چتبات خواست فهرستی از منابع واقعی را فقط بازنویسی کند. نتیجه این بود که چتبات باز هم اطلاعات جعلی به آنها اضافه کرد. او سپس یک استناد جعلی ساخت و در گوگل جستجو کرد. خلاصه هوش مصنوعی گوگل در بالای نتایج نوشته بود «این یک مقاله واقعی است» در حالی که دلوسا میدانست چنین نیست.
این مشکل فقط به دانشآموزان محدود نمیشود. دو پژوهش جدید نشان میدهد استنادهای توخالی به سرعت در حال ورود به مقالات علمی حرفهای هستند. در بررسی حدود ۱۸ هزار مقاله ارائهشده در شش کنفرانس علوم کامپیوتر در ۲۰۲۴ و ۲۰۲۵، دستکم ۳۰۰ مقاله حاوی یک یا چند استناد توخالی بودند.
بن ویلیامسون، استاد دانشگاه ادینبورگ و سردبیر یک ژورنال علمی، میگوید موارد زیادی از استنادهای جعلی در مقالات ارسالی به ژورنال خود دیده است. او میافزود مورد عجیبتر وقتی بود که استنادی جعلی خود او را به عنوان نویسنده مقالهای معرفی میکرد که هرگز آن را ننوشته و اصلاً وجود ندارد.
به گفته ویلیامسون، اگر هوش مصنوعی اشتباه کند یا مطلب جعلی تولید کند تقصیر کاربر نیست، اما کاربر مسئول صحت هر چیزی است که منتشر میکند. داوران مسابقات علمی، دانشگاهها و محیطهای کاری، کاربران هوش مصنوعی را در قبال خروجیهایش پاسخگو میدانند.
میتریا دارانی، دانشآموز دبیرستانی که در مسابقات بینالمللی علوم و مهندسی شرکت کرده، میگوید گفتن «کلاً از چتباتها دوری کنید» توصیه بدی است. به جای آن باید پرسید در چه کارهایی میتوان به آنها اعتماد کرد و در چه کارهایی باید محتاط بود. او معتقد است چتبات فقط جهتدهی میکند اما کار واقعی یادگیری و آزمایش همچنان بر عهده خود فرد است.
این خبر را اینجا ببینید.