تجربه مخفی دانشگاه زوریخ در آزمایش هوش مصنوعی و تأثیر آن بر نظرات کاربران ردیت

تجربه مخفی دانشگاه زوریخ: تأثیر هوش مصنوعی بر تغییر نظرات کاربران ردیت

در دنیای دیجیتال امروز، شبکه‌های اجتماعی به یکی از اصلی‌ترین بسترهای تبادل نظر و اطلاعات تبدیل شده‌اند. یکی از زیرمجموعه‌های پرطرفدار ردیت، انجمن r/changemyview است که با ۳.۸ میلیون عضو، در میان ۱٪ برتر زیرمجموعه‌ها قرار دارد.

چالش‌های شناسایی هوش مصنوعی

تحقیقات دانشگاه زوریخ نشان می‌دهد که تمایز قائل شدن بین انسان‌ها و هوش مصنوعی همچنان با چالش‌های قابل توجهی روبرو است. در این آزمایش، هیچ‌یک از کاربران نتوانستند حساب‌های هوش مصنوعی را شناسایی کنند.

پتانسیل‌های هوش مصنوعی در قانع کردن کاربران

این تیم تحقیقاتی بر این باور است که «مزایای بالقوه این تحقیق به‌مراتب بیشتر از خطرات آن است». آن‌ها دریافتند که مدل‌های زبانی بزرگ (LLMs) می‌توانند به‌طرزی فوق‌العاده قانع‌کننده عمل کنند و از تمام معیارهای قبلی قانع‌کنندگی انسان‌ها فراتر بروند.

نظارت بر محتوای تولیدشده

در طول این آزمایش چهارماهه، حساب‌های تقلبی دانشگاه زوریخ ۱۷۸۳ نظر منتشر کردند و ۱۳۷ تغییر نظر (delta) دریافت کردند که نشان‌دهنده این است که کاربران دیگر تحت تأثیر این حساب‌ها قرار گرفته‌اند.

استفاده از داده‌های شخصی برای شخصی‌سازی پاسخ‌ها

تحقیق‌گران از هوش مصنوعی برای تولید پاسخ‌ها استفاده کردند و تلاش کردند که این پاسخ‌ها را با توجه به اطلاعات موجود در تاریخچه قبلی کاربران در ردیت، مانند گرایش سیاسی، جنسیت، سن و قومیت، شخصی‌سازی کنند.

واکنش مدیران انجمن و نگرانی‌های اخلاقی

مدیران r/changemyview به این آزمایش واکنش نشان دادند و اعلام کردند که از این آزمایش بی‌خبر بودند. آن‌ها از دانشگاه زوریخ خواسته‌اند که عذرخواهی کند و از انتشار نتایج تحقیق جلوگیری کند. همچنین، ردیت به دنبال اقدام قانونی علیه این دانشگاه است.

اقدامات قانونی ردیت

بن لی، رئیس بخش حقوقی ردیت، در یک پست در تاریخ ۲۸ آوریل اعلام کرد که این آزمایش قوانین و توافق‌نامه‌های کاربران را نقض کرده و تمامی حساب‌های مرتبط با این تحقیق بن شده‌اند. او همچنین تأکید کرد که ردیت به دنبال حمایت از جامعه و مسئولیت‌پذیری محققان خواهد بود.

تحقیقات اخلاقی و نتایج آن

کمیته اخلاق دانشگاه زوریخ در پاسخ به این حادثه گفت که تحقیقات لازم را انجام داده و وعده داده است که در آینده با آزمودنی‌ها بهتر هماهنگ خواهد شد. همچنین به محقق اصلی این پروژه تذکر رسمی داده شد.

نتیجه‌گیری و آینده تحقیقات

این پروژه به‌عنوان یک مطالعه مهم در زمینه تأثیر هوش مصنوعی بر تغییر نظرات کاربران شناخته می‌شود و محققان بر این باورند که نتایج این تحقیق می‌تواند در آینده در حوزه‌های مختلف به کار گرفته شود. با این حال، نگرانی‌های اخلاقی و قانونی همچنان در این زمینه وجود دارد که نیازمند توجه جدی است.