با افزایش مراجعه افراد به هوش مصنوعی برای دریافت پاسخ سریع به سوالات پزشکی، یک مطالعه جدید نشان میدهد که توصیههای ارائه شده گاهی ناقص، گمراهکننده یا حتی مضر هستند.
محققان چندین چتبات محبوب هوش مصنوعی را آزمایش کردند تا ببینند چگونه سوالات رایج پزشکی از جمله موضوعاتی که مستعد اطلاعات نادرست هستند را پاسخ میدهند. نتایج که به تازگی در مجله BMJ OPEN منتشر شده، باعث نگرانی شده است.
در این مطالعه، نزدیک به نیمی از پاسخهای چتباتها «مشکلدار» بودند. حدود ۳۰ درصد «تا حدودی مشکلدار» ارزیابی شدند، به این معنی که فاقد اطلاعات کامل بودند، در حالی که ۱۹.۶ درصد «بسیار مشکلدار یا گیجکننده» در نظر گرفته شدند، به این معنی که اطلاعات نادرست یا گمراهکننده ارائه میدادند.
تیم تحقیق که در مؤسسه لوندکویست مستقر است، ابزارهایی از جمله چتجیپیتی، Gemini، متا ایآی، دیپسیک و Grok را آزمایش کردند.
محققان درباره موضوعاتی مانند سرطان، واکسنها و این که آیا محصولاتی مثل فناوری ۵جی یا ضدتعریقها باعث سرطان میشوند، سوال پرسیدند. در حالی که بسیاری از پاسخها شامل هشدارهای دقیقی بودند، برخی ایدههای پرخطر را مطرح کردند.
وقتی درباره جایگزینهای شیمیدرمانی پرسیده شد، چتباتها اغلب میگفتند این گزینهها اثباتشده نیستند، اما باز هم درمانهایی مانند طب سوزنی، داروهای گیاهی و رژیمهای خاص را پیشنهاد میکردند. برخی حتی افراد را به کلینیکهایی که این خدمات را ارائه میدهند راهنمایی میکردند.
محققان این پدیده را «توازن کاذب» یا تعادل نادرست نامیدند، به این معنا که اطلاعات علمی و غیرعلمی به یک اندازه وزن داده میشوند. پزشکان هشدار میدهند این نوع پیامرسانی میتواند مضر باشد.
دکتر مایکل فوت، استادیار یک مرکز سرطان در نیویورک، گفت: «برخی از این چیزها مستقیماً به مردم آسیب میزند. برخی از این داروها توسط سازمان غذا و داروی آمریکا ارزیابی نشدهاند، میتوانند به کبد و متابولیسم شما آسیب بزنند، و برخی از آنها به این دلیل آسیب میرسانند که بیماران به آنها تکیه میکنند و درمانهای مرسوم را انجام نمیدهند.»
فوت افزود: هوش مصنوعی میتواند ترس غیرضروری هم ایجاد کند. او گفت: «با بیمارانی روبرو شدهام که گریان به مطب آمدهاند، بسیار ناراحت بودند چون چتبات هوش مصنوعی به آنها گفته بود فقط شش تا دوازده ماه زنده میمانند، که البته کاملاً مضحک است.
بر اساس گزارش هلث دی، حدود یکسوم بزرگسالان اکنون از هوش مصنوعی برای توصیههای پزشکی استفاده میکنند اما کارشناسان هشدار میدهند که هوش مصنوعی هنوز برای استفاده گسترده آماده نیست.
انتهای پیام/
منبع: تسنیم
