بعضی از کاربرای X ایلان ماسک دارن از ربات هوش مصنوعی ماسک، گروک (Grok)، برای حقیقتسنجی استفاده میکنن، که باعث نگرانی بین حقیقتسنجهای انسانی شده و میتونه اطلاعات نادرست رو بیشتر کنه.
اوایل این ماه، X به کاربرا این امکان رو داد که از Grok شرکت xAI سوال بپرسن و درباره چیزای مختلف تحقیق کنن. این حرکت شبیه به Perplexity بود که یه حساب خودکار تو X راه انداخته تا یه تجربه مشابه رو ارائه بده.
خیلی زود بعد از اینکه xAI حساب خودکار Grok رو تو X ساخت، کاربرا شروع کردن به امتحان کردن سوال پرسیدن ازش. بعضی از مردم تو بازارهایی مثل هند شروع کردن به اینکه از Grok بخوان کامنتها و سوالاتی که باورهای سیاسی خاص رو هدف قرار میدن، حقیقتسنجی کنه.
حقیقتسنجها نگران این هستن که از Grok – یا هر دستیار هوش مصنوعی دیگه ای – به این شکل استفاده بشه، چون این رباتها میتونن پاسخهاشون رو طوری تنظیم کنن که قانعکننده به نظر برسه، حتی اگه از نظر واقعی درست نباشن. قبلاً مواردی از پخش اخبار جعلی و اطلاعات نادرست با Grok دیده شده.
تو آگوست سال گذشته، پنج تا از وزیران ایالتی از ماسک خواستن که تغییرات مهمی رو تو Grok اعمال کنه، چون اطلاعات گمراهکنندهای که این دستیار تولید کرده بود، قبل از انتخابات آمریکا تو شبکههای اجتماعی پخش شده بود.
دیده شده که چتباتهای دیگه، از جمله ChatGPT شرکت OpenAI و Gemini گوگل، هم اطلاعات نادرستی رو درباره انتخابات سال گذشته تولید میکنن. به طور جداگانه، محققای حوزه اطلاعات نادرست تو سال ۲۰۲۳ فهمیدن که چتباتهای هوش مصنوعی، از جمله ChatGPT، میتونن به راحتی برای تولید متن قانعکننده با روایتهای گمراهکننده استفاده بشن.
آنجی هولان، مدیر شبکه بینالمللی حقیقتسنجی (IFCN) تو Poynter، به تککرانچ گفت: “دستیارهای هوش مصنوعی، مثل Grok، تو استفاده از زبون طبیعی خیلی خوبن و یه جوابی میدن که به نظر میرسه یه آدم داره اونو میگه. و به این ترتیب، محصولات هوش مصنوعی این ادعا رو دارن که پاسخهاشون طبیعی و معتبر به نظر میرسن، حتی وقتی که ممکنه خیلی اشتباه باشن. خطر اینجاست.”
برخلاف دستیارهای هوش مصنوعی، حقیقتسنجهای انسانی از منابع معتبر متعددی برای تایید اطلاعات استفاده میکنن. اونا همچنین مسئولیت کامل یافتههاشون رو بر عهده میگیرن و اسم و سازمانشون رو بهش وصل میکنن تا اعتبارشون تضمین بشه.
پراتیک سینها، یکی از بنیانگذاران وبسایت غیرانتفاعی حقیقتسنجی Alt News تو هند، گفت که با اینکه به نظر میرسه Grok در حال حاضر پاسخهای قانعکنندهای داره، اما فقط به اندازه اطلاعاتی که بهش داده میشه خوبه.
اون اشاره کرد: “کی میخواد تصمیم بگیره چه اطلاعاتی بهش داده بشه، و اینجاست که دخالت دولت و غیره وارد صحنه میشه.”
“هیچ شفافیتی وجود نداره. هر چیزی که فاقد شفافیت باشه آسیب میزنه، چون هر چیزی که فاقد شفافیت باشه رو میشه به هر شکلی که بخوای درآورد.”
“میشه ازش سوء استفاده کرد – برای پخش اطلاعات نادرست”
تو یکی از پاسخهایی که اوایل این هفته منتشر شده، حساب Grok تو X اعتراف کرده که “میشه ازش سوء استفاده کرد – برای پخش اطلاعات نادرست و نقض حریم خصوصی.”
با این حال، این حساب خودکار هیچ سلب مسئولیتی رو به کاربرا نشون نمیده وقتی که جوابهاش رو میگیرن، و این باعث میشه که اونا اطلاعات نادرستی رو دریافت کنن اگه مثلاً جواب رو توهم زده باشه، که این یکی از معایب بالقوه هوش مصنوعی هست.
آنوشکا جین، یه محقق تو Digital Futures Lab مستقر تو گوا، به تککرانچ گفت: “ممکنه اطلاعات رو سر هم کنه تا یه جواب ارائه بده.”
یه سوال هم وجود داره درباره اینکه Grok چقدر از پستهای تو X به عنوان داده آموزشی استفاده میکنه و از چه اقدامات کنترلی برای حقیقتسنجی این پستها استفاده میکنه. تابستون گذشته، یه تغییری رو اعمال کرد که به نظر میرسید به Grok اجازه میده به طور پیشفرض از دادههای کاربرای X استفاده کنه.
یکی دیگه از نگرانیها درباره دستیارهای هوش مصنوعی مثل Grok که از طریق پلتفرمهای رسانههای اجتماعی در دسترس هستن، اینه که اطلاعات رو به صورت عمومی ارائه میدن – برخلاف ChatGPT یا چتباتهای دیگه که به صورت خصوصی استفاده میشن.
حتی اگه یه کاربر به خوبی بدونه که اطلاعاتی که از دستیار میگیره ممکنه گمراهکننده یا کاملاً درست نباشه، بقیه تو پلتفرم ممکنه همچنان اونو باور کنن.
این میتونه آسیبهای اجتماعی جدی ایجاد کنه. قبلاً تو هند مواردی از این قبیل دیده شده بود که پخش اطلاعات نادرست از طریق واتساپ منجر به لینچ دستهجمعی شد. با این حال، اون حوادث شدید قبل از ورود GenAI اتفاق افتاد، که تولید محتوای مصنوعی رو حتی آسونتر کرده و باعث میشه واقعیتر به نظر برسه.
هولان از IFCN به تککرانچ گفت: “اگه تعداد زیادی از این پاسخهای Grok رو ببینید، میگید، هی، خب، بیشترشون درستن، و ممکنه اینطور باشه، اما یه سری هم اشتباه خواهند بود. و چند تا؟ این یه بخش کوچیک نیست. بعضی از مطالعات تحقیقاتی نشون دادن که مدلهای هوش مصنوعی نرخ خطای ۲۰٪ دارن… و وقتی اشتباه میکنن، میتونه خیلی بد با عواقب دنیای واقعی پیش بره.”
هوش مصنوعی در برابر حقیقتسنجهای واقعی
در حالی که شرکتهای هوش مصنوعی از جمله xAI دارن مدلهای هوش مصنوعی خودشون رو اصلاح میکنن تا کاری کنن که بیشتر شبیه انسانها ارتباط برقرار کنن، اما اونا هنوز نمیتونن – و نمیتونن – جایگزین انسانها بشن.
تو چند ماه گذشته، شرکتهای فناوری دارن راههایی رو بررسی میکنن تا وابستگی به حقیقتسنجهای انسانی رو کاهش بدن. پلتفرمهایی مثل X و Meta شروع به پذیرش مفهوم جدید حقیقتسنجی جمعسپاریشده از طریق چیزی به اسم Community Notes کردن.
به طور طبیعی، این تغییرات باعث نگرانی حقیقتسنجها هم میشن.
سینها از Alt News با خوشبینی معتقده که مردم یاد میگیرن بین ماشینها و حقیقتسنجهای انسانی تفاوت قائل بشن و برای دقت انسانها ارزش بیشتری قائل میشن.
هولان از IFCN گفت: “ما قراره ببینیم که پاندول در نهایت به سمت حقیقتسنجی بیشتر برگرده.”
با این حال، اون اشاره کرد که تو این فاصله، حقیقتسنجها احتمالاً کار بیشتری رو برای انجام دادن با اطلاعات تولید شده توسط هوش مصنوعی که به سرعت پخش میشه، خواهند داشت.
اون گفت: “خیلی از این موضوع بستگی به این داره که آیا واقعاً براتون مهمه که چیزی که وجود داره واقعاً درست باشه یا نه؟ آیا فقط دنبال این هستید که چیزی به نظر درست بیاد و حس درست بودن رو بده بدون اینکه واقعاً درست باشه؟ چون این چیزیه که دستیار هوش مصنوعی بهتون میده.”
منبع: techcrunch
Leave a Reply