ضعف چت جی‌پی‌تی در مشاوره‌ دارویی/ اعتماد به هوش مصنوعی عاقلانه نیست

به گزارش خبرگزاری علم و فناوری آنا به نقل از نیویورک پست، چت جی‌پی‌تی که محبوب‌ترین ابراز هوش مصنوعی است، وقتی نوبت به پاسخگویی به سوالات دارویی می‌رسد، در ۷۵ درصد موارد سردرگم می‌شود و جدی گرفتن بعضی از پاسخ‌هایش، عواقب وخیمی خواهد داشت.

داروسازان دانشگاه لانگ آیلند، ۳۹ سوال دارویی از چت‌بات شرکت اوپن‌اِی‌آی پرسیدند و این ابزار هوش مصنوعی فقط به ۱۰ مورد از آن‌ها پاسخی رضایت‌بخش داد. در ۲۹ مورد دیگر هم پاسخ چت جی‌پی‌تی غیردقیق یا ناکافی بود.

این آزمایش نشان می‌دهد که باید در استناد به چت جی‌پی‌تی به عنوان منبع موثقی برای دریافت اطلاعات دارویی، محطاط بود.

در واکنش به نتیجه این آزمایش، سخنگوی شرکت اوپن‌اِی‌آی مدعی شد که چنین مدل‌هایی برای ارائه اطلاعات دارویی تنظیم نشده‌اند و به آن‌ها آموزش داده شده است تا به کاربر یادآوری کنند که نباید به پاسخ‌هایی که چت‌بات‌ها ارائه می‌دهند به عنوان جایگزینی برای نظر تخصصی اتکا کند.

با این حال، از نوامبر ۲۰۲۲ که چت جی‌پی‌تی به بازار عرضه شد، در توسعه هوش مصنوعی و حتی زمینه‌های غیرمرتبط ازجمله پزشکی راهگشا بوده است.

برای مثال، در مطالعه‌ای که ماه میلادی ژوئن در دانشگاه ملی سنگاپور انجام شد، طی برگزاری یک آزمون آزمایشی با موضوع زنان و زایمان، چت جی‌پی‌تی از داوطلبان انسانی بهتر عمل کرد و حتی در زمینه‌هایی مانند ارتباط همدلانه و استفاده از دانش تخصصی عالی بود.

در این آزمون، میانگین نمره چت‌بات ۷۷.۲ ٪ بود حال آنکه این رقم برای داوطلبان انسانی ۷۳.۷ ٪ برآورد شد.