هشدار؛ چت‌بات‌های هوش مصنوعی را می‌شود فریب داد!

اما همه خبرها از هوش مصنوعی خوب نیست. تحقیقات جدید نشون داده که چت‌بات‌های معروف مثل ChatGPT و Gemini رو به راحتی می‌شه با اطلاعات جعلی و مطالب ساختگی که توی اینترنت منتشر می‌شوند، فریب داد و پاسخهای نادرست ازشون گرفت. خبرنگار بی‌بی‌سی توی یه آزمایش ساده تونست تنها با انتشار یه پست در وبسایت شخصی‌اش، گوگل و ChatGPT رو متقاعد کنه که اون قهرمان مسابقات جهانی هات‌داگ‌خوری است!

این یه زنگ خطر جدی‌ست، مخصوصاً توی زمینه‌هایی مثل سلامت، امور مالی و اطلاعات سیاسی. گوگل اعلام کرده که قوانین ضداسپم خودش رو به‌روزرسانی کرده تا سایت‌هایی که قصد دستکاری پاسخ‌های هوش مصنوعی رو دارند، جریمه یا حذف کنه. اما کارشناسان معتقدند این نبرد تازه شروع شده و روش‌های جدیدی برای سوءاستفاده از هوش مصنوعی پیدا خواهد شد.