عواقب فاجعه‌بار استفاده از هوش مصنوعی در فعالیت‌های تجاری

به گزارش خبرنگار گروه ارتباطات و فناوری اطلاعات خبرگزاری علم و فناوری آنا به نقل از رویترز، مقامات انگلیسی می‌گویند چت بات‌های هوش مصنوعی می‌توانند خطرات سایبری به همراه داشته باشند.

مقامات انگلیسی به سازمان‌ها در مورد ادغام چت بات‌های مبتنی بر هوش مصنوعی در کسب‌وکار خود هشدار می‌دهند و می‌گویند تحقیقات به‌طور فزاینده‌ای نشان داده است که می‌توان آن‌ها را برای انجام کار‌های مضر فریب داد.

مرکز ملی امنیت سایبری انگلیس (NCSC) به‌تازگی اعلام کرده، کارشناسان هنوز با مشکلات امنیتی بالقوه مرتبط با الگوریتم‌هایی که می‌توانند تعاملات انسانی ایجاد کنند مانند مدل‌های زبانی بزرگ مواجه نشده‌اند.

ابزار‌های مبتنی بر هوش مصنوعی به‌عنوان چت ربات‌هایی استفاده می‌شوند که برخی تصور می‌کنند نه‌ تنها جستجو‌های اینترنتی، بلکه خدمات مشتری و تماس‌های فروش را نیز جایگزین می‌کنند.

مرکز ملی امنیت سایبری انگلیس می‌گوید: این فرآیند می‌تواند خطراتی را به همراه داشته باشد، به‌ویژه اگر چنین مدل‌هایی به عناصر دیگر فرایند‌های تجاری سازمان متصل شوند. دانشگاهیان و محققان بار‌ها راه‌هایی برای منحرف کردن چت بات‌ها از طریق دادن دستور‌های نادرست به آن‌ها پیداکرده‌اند.

به‌عنوان‌مثال، یک چت بات مبتنی بر هوش مصنوعی که توسط یک بانک به کار گرفته می‌شود، ممکن است فریب بخورد تا یک تراکنش غیرمجاز انجام دهد؛ کافی است تا یک هکر به سیستم آن‌ها دسترسی پیدا کند.

مرکز ملی امنیت سایبری انگلیس با اشاره به انتشار نرم‌افزار‌های آزمایشی گفت: سازمان‌هایی که از مدل‌های زبانی بزرگ استفاده می‌کنند، باید مراقب باشند و بدانند همه این‌ها در نسخه آزمایشی هستند و تمام شرایط امنیتی را برا نسخه آزمایشی به کار بگیرند.

مقامات در سراسر جهان در حال دست‌وپنجه نرم کردن با ظهور مدل‌های زبانی بزرگ مانند چت جی‌پی‌تی هستند که کسب‌وکار‌های آن‌ها را در طیف گسترده‌ای از خدمات، ازجمله فروش تحت تأثیر قرار می‌دهد. پیامد‌های امنیتی هوش مصنوعی نیز هنوز در کانون توجه قرار دارد و مقامات ایالات‌متحده و کانادا می‌گویند شاهد استقبال هکر‌ها از این فناوری بوده‌اند.

نظرسنجی اخیر رویترز ایپسوس نیز نشان داد که بسیاری از کارمندان شرکت‌ها از ابزار‌هایی مانند چت‌جی‌پی‌تی برای کمک به کار‌های اساسی مانند تهیه پیش‌نویس ایمیل، خلاصه کردن اسناد و انجام تحقیقات اولیه استفاده می‌کنند. حدود ۱۰ درصد از شرکت‌کنندگان در این نظرسنجی گفته‌اند که روسای آن‌ها به‌صراحت ابزار‌های هوش مصنوعی خارجی را ممنوع کرده‌اند.

اوسلوکا اوبیورا، مدیر ارشد فناوری در شرکت امنیت سایبری ریورساید گفت: اگر رهبران کسب‌وکار نتوانند بررسی های لازم را انجام دهند، رقابت برای ادغام هوش مصنوعی در فعالیت‌های تجاری عواقب فاجعه باری خواهد داشت.