شفقنا – پژوهشی بینالمللی نشان میدهد بخش قابلتوجهی از توسعهدهندگان هوش مصنوعی پزشکی با مقررات حاکم بر این فناوری آشنایی کافی ندارند؛ شکافی که با گسترش استفاده از این ابزارها در نظام سلامت میتواند پیامدهایی برای ایمنی بیماران و اعتماد عمومی داشته باشد.
به گزارش سرویس ترجمه شفقنا، پژوهشگران دانشگاه فناوری نانیانگ سنگاپور در مطالعهای درباره میزان آگاهی توسعهدهندگان هوش مصنوعی پزشکی از مقررات و چارچوبهای نظارتی، نسبت به شکاف موجود میان مسئولیتپذیری این افراد و آشنایی آنها با قوانین هشدار دادهاند.
در این پژوهش، ۱۲۲ توسعهدهنده هوش مصنوعی پزشکی در سنگاپور، چین، هنگکنگ و بریتانیا مورد بررسی قرار گرفتند. یافتههای این مطالعه که در مجله npj Digital Medicine منتشر شده، از جمله نخستین بررسیهای چندمنطقهای درباره آگاهی توسعهدهندگان هوش مصنوعی پزشکی از الزامات نظارتی به شمار میرود.
بر اساس نتایج، تنها ۵۷ درصد از شرکتکنندگان اعلام کردند که با دستکم یکی از چارچوبهای نظارتی هوش مصنوعی آشنایی دارند. میزان آگاهی در میان توسعهدهندگان ارشد و افرادی که خارج از دانشگاهها فعالیت میکردند، بیشتر از توسعهدهندگان جوانتر و پژوهشگران دانشگاهی بود.
از سوی دیگر، حدود دو سوم شرکتکنندگان در سازمانهایی فعالیت میکردند که هیچ چارچوب مشخصی برای حکمرانی هوش مصنوعی نداشتند. توسعهدهندگانی که محل کارشان چنین چارچوبی را اجرا کرده بود، آشنایی بیشتری با مقررات مرتبط داشتند.
با وجود این شکاف، بیشتر شرکتکنندگان معتقد بودند توسعهدهندگان باید در قبال سامانههایی که میسازند مسئولیتپذیر باشند. آنها این مسئولیت را مشترک میدانستند و بر نقش دولتها، نهادهای اخلاقی، کاربران و سازمانهای تأمینکننده داده نیز تأکید داشتند.
ویلسون گو، استادیار دانشکده پزشکی لی کنگ چیان در دانشگاه فناوری نانیانگ و یکی از رهبران این پژوهش، گفت توسعهدهندگان به دلیل نقش مستقیم خود در ساخت سامانهها، جایگاه مناسبی برای ارزیابی کیفیت دادهها، محدودیتهای مدلها و خطراتی مانند سوگیری و «توهم» هوش مصنوعی دارند.
پژوهشگران هشدار دادند ناآگاهی از مقررات میتواند با ورود گستردهتر ابزارهای هوش مصنوعی به محیطهای درمانی، بر ایمنی بیماران و اعتماد عمومی تأثیر بگذارد. از جمله چارچوبهای مورد اشاره در این مطالعه میتوان به قانون هوش مصنوعی اتحادیه اروپا و دستورالعملهای سنگاپور برای استفاده از هوش مصنوعی در حوزه سلامت اشاره کرد.
پژوهشگران برای کاهش این شکاف پیشنهاد کردند آموزش مقررات هوش مصنوعی به بخشی از برنامههای آموزشی دانشگاهها و مراکز تربیت توسعهدهندگان تبدیل شود. آنها همچنین بر آموزش و انتقال تجربه میان توسعهدهندگان ارشد و نیروهای تازهکار در شرکتها و نقش فعالتر نهادهای نظارتی برای ترویج رعایت مقررات تأکید کردند.
جوزف سونگ، معاون ارشد دانشگاه فناوری نانیانگ در حوزه سلامت و علوم زیستی و رئیس دانشکده پزشکی این دانشگاه، نیز تأکید کرد که چالشهای ناشی از ورود هوش مصنوعی به حوزه سلامت را نمیتوان بر عهده یک گروه خاص گذاشت و مسئولیت پیامدهای استفاده از این فناوری باید میان توسعهدهندگان، نهادهای درمانی، دولتها و سایر ذینفعان تقسیم شود.
این یافتهها در شرایطی اهمیت بیشتری پیدا میکند که هوش مصنوعی بهسرعت در حوزههایی مانند تحلیل تصاویر پزشکی، تشخیص بیماری و ارزیابی خطر ابتلا به بیماریها در حال گسترش است. پژوهشگران معتقدند در چنین شرایطی، افزایش آگاهی توسعهدهندگان از مقررات و الزامات ایمنی باید همزمان با پیشرفت فنی این فناوری دنبال شود.
این خبر را اینجا ببینید.