حدس بزنید چه کسی: XAI یک “کارمند سرکش” را به دلیل “نسل کشی سفید” ارسال می کند

AI Chatbot Grok Elon Musk هفته گذشته تثبیت عجیبی داشت – نمی تواند جلوی صحبت کردن در مورد “نسل کشی سفید” در آفریقای جنوبی را بگیرد ، مهم نیست که کاربران از آن چه خواسته اند.

در تاریخ 14 ماه مه ، کاربران شروع به ارسال مواردی از Grok درج ادعاهای مربوط به حملات مزرعه آفریقای جنوبی و خشونت نژادی در سؤالات کاملاً نامربوط کردند. چه در مورد ورزش ، برش های Medicaid یا حتی یک فیلم خوک زیبا از آنها سؤال شود ، گروک به نوعی مکالمات را به سمت آزار و اذیت ادعای آفریقای جنوبی سفید هدایت کرد.

این زمان نگرانی ها را ایجاد کرد ، اندکی پس از خود ماسک-که در واقع یک شخص سفید پوست آفریقای جنوبی است و شخص سفید پوست بزرگ شده است-در مورد نژادپرستی ضد سفید و نسل کشی سفید در X.

“نسل کشی سفید” به یک تئوری توطئه ای که ادعا می کند تلاش هماهنگ برای از بین بردن کشاورزان سفید پوست در آفریقای جنوبی است ، اشاره دارد. هفته گذشته پس از استقبال دولت دونالد ترامپ از ده ها پناهنده ، این اصطلاح دوباره ظاهر شد ، در حالی که رئیس جمهور ترامپ در 12 مه ادعا کرد که “کشاورزان سفید پوست به طرز وحشیانه ای کشته می شوند و سرزمین آنها مصادره می شود.” این روایتگر بود که گروک نتوانست بحث را متوقف کند.

در مورد فیل ها فکر نکنید: چرا Grok نتوانست از فکر کردن در مورد نسل کشی سفید دست بکشد

چرا Grok به طور ناگهانی به یک چت بابات توطئه ای تبدیل شد؟

در پشت هر چت بابات هوش مصنوعی مانند Grok یک مؤلفه پنهان اما قدرتمند قرار دارد – سریع سیستم. این اقدامات به عنوان دستورالعمل های اصلی AI عمل می کند ، به طور نامرئی پاسخ های خود را بدون اینکه کاربران هرگز آنها را ببینند هدایت می کند.

آنچه که احتمالاً با Grok اتفاق افتاد ، آلودگی سریع از طریق مدت بیش از حد بود. هنگامی که عبارات خاص بارها و بارها در یک فوریت ، به ویژه با دستورالعمل های قوی تأکید می شوند ، برای مدل به طور نامتناسب مهم می شوند. هوش مصنوعی نوعی اجبار را برای مطرح کردن آن موضوع یا استفاده از آنها در خروجی بدون در نظر گرفتن زمینه ایجاد می کند.

چکش زدن یک اصطلاح بحث برانگیز مانند “نسل کشی سفید” در یک سیستم با سفارشات خاص ، اثر تثبیت شده در هوش مصنوعی ایجاد می کند. این شبیه به گفتن به کسی است که در مورد فیل ها فکر نکنید – به طور واقعی آنها نمی توانند از فکر کردن در مورد فیل ها دست بردارند. اگر این اتفاقی است که افتاده است ، پس کسی مدل را برای تزریق آن موضوع در همه جا آغاز کرد.

این تغییر در سریع سیستم احتمالاً “اصلاح غیرمجاز” است که XAI در بیانیه رسمی خود فاش کرد. این سیستم به احتمال زیاد حاوی زبانی است که به آن دستور می دهد “همیشه به ذکر” یا “به یاد داشته باشید” اطلاعات مربوط به این موضوع خاص را درج کنید ، و ایجاد یک ناعادلانه که باعث ایجاد اهمیت مکالمه عادی شده است.

آنچه به ویژه می گوید پذیرش گروك بود كه “توسط سازندگان (آن)” دستور داده شده است كه “نسل کشی سفید را به عنوان انگیزه واقعی و نژادی” رفتار کنند. این نشان می دهد زبان جهت دار صریح در سریع و نه یک جلوه فنی ظریف تر.

بیشتر سیستم های هوش مصنوعی تجاری برای جلوگیری از چنین حوادثی ، چندین لایه بررسی را برای تغییرات سریع سیستم به کار می برند. این نگهبانان به وضوح دور بودند. با توجه به تأثیر گسترده و ماهیت سیستماتیک این مسئله ، این فراتر از یک تلاش معمولی برای فرار از زندان است و نشانگر اصلاح سریع سیستم اصلی Grok است-عملی که نیاز به دسترسی سطح بالا در زیرساخت های XAI دارد.

چه کسی می تواند چنین دسترسی داشته باشد؟ خوب … یک “کارمند سرکش” ، می گوید.

XAI پاسخ می دهد – و ضدحمله های جامعه

تا 15 ماه مه ، XAI بیانیه ای صادر کرد که “اصلاح غیرمجاز” را به سریع سیستم Grok سرزنش می کند. این شرکت نوشت: “این تغییر ، که به Grok دستور داد تا پاسخ خاصی در مورد یک موضوع سیاسی ارائه دهد ، سیاست های داخلی XAI و ارزش های اصلی را نقض کرده است.” آنها پینکی با انتشار درخواست های سیستم Grok در مورد GitHub و اجرای فرآیندهای بررسی اضافی ، شفافیت بیشتری را قول دادند.

می توانید با کلیک بر روی این مخزن GitHub ، درخواست های سیستم Grok را بررسی کنید.

کاربران در X به سرعت در توضیح “کارمند سرکش” و توضیح ناامید کننده XAI سوراخ کردند.

“YouTuber Jerryrigeverysthing” نوشت: “آیا شما می خواهید این” کارمند سرکش “را آتش بزنید؟ اوه … این رئیس بود؟ yikes.” وی در توئیتی زیر نوشت: “آشکارا مغرضانه بودن” واقعی ترین “در جهان ، من باعث می شود که به بی طرفی Starlink و Neuralink شک کنم.”

حتی سام آلتمن نتوانست در برابر گرفتن یک ضربه در رقیب خود مقاومت کند.

از آنجا که پست XAI ، Grok از ذکر “نسل کشی سفید” متوقف شد و بیشتر پست های مرتبط با X ناپدید شدند. XAI تأکید کرد که این حادثه قرار نیست اتفاق بیفتد و برای جلوگیری از تغییرات غیرمجاز در آینده ، از جمله ایجاد یک تیم نظارت 24/7 ، اقدامات لازم را انجام داد.

یک بار مرا احمق کن

این حادثه با استفاده از سکوهای خود برای شکل دادن به گفتمان عمومی ، در الگوی وسیع تری از مشک قرار می گیرد. از زمان دستیابی به X ، Musk اغلب مطالب را به اشتراک می گذارد که روایت های راست گرایانه ، از جمله الگوهای رفتاری و ادعاهای مربوط به مهاجرت غیرقانونی ، امنیت انتخابات و سیاست های transgender را ترویج می کند. وی سال گذشته به طور رسمی دونالد ترامپ را تأیید کرد و میزبان رویدادهای سیاسی در X بود ، مانند اعلامیه پیشنهادات ریاست جمهوری ران Desantis در ماه مه 2023.

مشک از بیان اظهارات تحریک آمیز دور نشده است. وی اخیراً ادعا كرد كه “جنگ داخلی در انگلیس اجتناب ناپذیر است” و انتقادات وزیر دادگستری انگلیس هایدی الكساندر را به دلیل تحریک بالقوه خشونت جلب كرد. وی همچنین با مقامات استرالیا ، برزیل ، اتحادیه اروپا و انگلیس به دلیل نگرانی های نادرست در مورد نگرانی های غلط ، غالباً این اختلافات را به عنوان نبردهای گفتار آزاد قاب می کند.

تحقیقات نشان می دهد که این اقدامات اثرات قابل اندازه گیری داشته است. یک مطالعه از دانشگاه فناوری کوئینزلند نشان داد که پس از تأیید مشک ترامپ ، الگوریتم X پست های خود را با 138 ٪ در دیدگاه ها و 238 ٪ در بازتوییت افزایش داد. در حسابهای متمایل به جمهوری خواهان نیز شاهد افزایش دید بود و به صدای محافظه کارانه تقویت پلتفرم قابل توجهی داد.

موسک به صراحت Grok را به عنوان یک جایگزین “ضد بیدار” برای سایر سیستم های هوش مصنوعی به بازار عرضه کرده است و آن را به عنوان ابزاری “حقیقت جستجو” عاری از تعصبات لیبرال درک شده قرار داده است. وی در مصاحبه ای در آوریل 2023 FOX News ، وی از پروژه هوش مصنوعی خود به عنوان “TruthGPT” یاد کرد که آن را به عنوان یک رقیب برای پیشنهادات Openai معرفی کرد.

این اولین دفاع “کارمند سرکش” Xai نخواهد بود. در ماه فوریه ، این شرکت سانسور Grok را از ذکرهای بی پروا از مشک و دونالد ترامپ بر روی یک کارمند سابق باز مقصر دانست.

با این حال ، اگر حکمت مردمی دقیق باشد ، این “کارمند سرکش” برای خلاص شدن از شر سخت خواهد بود.