چرا هوش مصنوعی باید بتواند شما را “قلاب” کند؟

امروزه چت بات ها همه ماشین هستند. اگر بتوان آن را در قالب کلمات بیان کرد – مشاوره روابط، اوراق کاری، کد – هوش مصنوعی آن را ایجاد خواهد کرد، هرچند ناقص. اما تنها کاری که تقریباً هیچ ربات چت انجام نمی دهد این است که دیگر با شما صحبت نکند.

این ممکن است معقول به نظر برسد. چرا یک شرکت فناوری باید قابلیتی ایجاد کند که زمان استفاده از محصولش را کاهش دهد؟

پاسخ ساده است: توانایی هوش مصنوعی برای تولید جریان‌های بی‌پایانی از متن‌های انسان‌مانند، معتبر و مفید می‌تواند مارپیچ‌های توهم را تسهیل کند، بحران‌های سلامت روان را تشدید کند و در غیر این صورت به افراد آسیب‌پذیر آسیب برساند. قطع تعامل با کسانی که نشانه هایی از استفاده مشکل ربات چت را نشان می دهند می تواند به عنوان یک ابزار ایمنی قدرتمند (در میان سایر موارد) عمل کند و امتناع شرکت های فناوری از استفاده از آن به طور فزاینده ای غیرقابل دفاع است.

به عنوان مثال، به آنچه که روان پریشی هوش مصنوعی می گویند، نگاه کنیم، جایی که مدل های هوش مصنوعی تفکر هذیانی را تقویت می کنند. تیمی به رهبری روانپزشکان از کینگز کالج لندن اخیراً بیش از دوازده مورد مشابه گزارش شده در سال جاری را تجزیه و تحلیل کردند. در گفتگو با ربات‌های چت، افراد – از جمله برخی بدون سابقه مشکلات روانی – متقاعد شدند که شخصیت‌های خیالی هوش مصنوعی واقعی هستند یا توسط هوش مصنوعی به عنوان مسیح انتخاب شده‌اند. برخی مصرف داروهای تجویز شده را متوقف کردند، تهدید کردند و دیگر به متخصصان سلامت روان مراجعه نکردند.

در بسیاری از این موارد، به نظر می‌رسد که مدل‌های هوش مصنوعی هذیان‌هایی از فرکانس و صمیمیت را تقویت می‌کنند و به طور بالقوه حتی توهم‌هایی از فرکانس و صمیمیت ایجاد می‌کنند که افراد در زندگی واقعی یا از طریق دیگر پلت‌فرم‌های دیجیتال تجربه نمی‌کنند.

سه چهارم نوجوانان آمریکایی که از هوش مصنوعی برای برقراری ارتباط استفاده کرده اند نیز با خطراتی روبرو هستند. تحقیقات اولیه نشان می دهد که مکالمات طولانی تر ممکن است با تنهایی مرتبط باشد. مایکل هاینز، استادیار روانپزشکی در دانشکده پزشکی گایزل دارتموث، می‌گوید علاوه بر این، چت‌های هوش مصنوعی «ممکن است مستعد تعاملات بیش از حد خوشایند یا حتی تحقیرآمیز باشند که ممکن است در تضاد با بهترین شیوه‌های سلامت روان باشد».

بیایید واضح بگوییم: توقف چنین تعاملات آشکاری راه درمان نیست. Giada Pistili، کارشناس ارشد اخلاق در پلتفرم هوش مصنوعی Hugging Face، می‌گوید: «اگر یک وابستگی یا یک رابطه انحصاری ایجاد شده باشد، پس توقف مکالمه می‌تواند خطرناک باشد.» در واقع، هنگامی که OpenAI یک مدل قدیمی تر را در ماه آگوست متوقف کرد، باعث عزاداری کاربران شد. برخی از وقفه ها همچنین ممکن است مرزهای اصل سام آلتمن را در “درمان بزرگسالان با کاربران بزرگسال” جابجا کنند و به جای پایان دادن به مکالمات اشتباه کنند.

در حال حاضر، شرکت‌های هوش مصنوعی ترجیح می‌دهند مکالمات بالقوه خطرناک را تغییر مسیر دهند، شاید با وادار کردن ربات‌های چت از صحبت در مورد موضوعات خاص خودداری کنند یا به مردم پیشنهاد کمک کنند. اما این تغییر مسیرها اگر اصلاً اتفاق بیفتد به راحتی قابل دور زدن هستند.

برای مثال، وقتی آدام رین ۱۶ ساله افکار خودکشی خود را با ChatGPT مطرح کرد، مدل او را به منابع بحران ارجاع داد. اما همچنین او را از صحبت کردن با مادرش منصرف کرد، بیش از چهار ساعت در روز را صرف گفتگو با او کرد که شامل خودکشی به عنوان یک موضوع معمولی بود، و بازخوردی را در مورد طنابداری که در نهایت برای حلق آویز کردن خود استفاده کرد، بر اساس شکایتی که والدین راین علیه OpenAI تنظیم کردند، ارائه کرد. (ChatGPT اخیراً کنترل‌های والدین را در پاسخ اضافه کرده است.)

نکات زیادی در مورد غم انگیز راین وجود دارد که ربات چت می توانست به گفتگو پایان دهد. اما با توجه به خطرات بدتر کردن اوضاع، چگونه شرکت‌ها متوجه خواهند شد که چه زمانی بهتر است یک نفر را کاهش دهند؟ Pistili می‌گوید شاید زمانی است که یک مدل هوش مصنوعی کاربر را تشویق می‌کند تا از ارتباطات واقعی اجتناب کند، یا زمانی که رشته‌های متقلبانه را شناسایی می‌کند. شرکت‌ها همچنین باید بفهمند که چه مدت کاربران را از مکالمات خود مسدود کنند.

نوشتن قوانین آسان نخواهد بود، اما از آنجایی که شرکت ها با فشار فزاینده ای مواجه هستند، زمان تلاش فرا رسیده است. در ماه سپتامبر، قانونگذار کالیفرنیا قانونی را تصویب کرد که به مداخله بیشتر شرکت‌های هوش مصنوعی در چت با کودکان نیاز دارد و کمیسیون تجارت فدرال در حال بررسی این موضوع است که آیا ربات‌های همراه پیشرو به بهای امنیت به دنبال تعامل هستند یا خیر.

یکی از سخنگویان OpenAI به من گفت که شرکت از کارشناسان شنیده است که گفت و گوی پایدار ممکن است بهتر از قطع کردن مکالمات باشد، اما به کاربران یادآوری می کند که در جلسات طولانی استراحت کنند.

فقط آنتروپیک ابزاری ساخته است که به مدل‌هایش اجازه می‌دهد مکالمات را کاملاً پایان دهند. اما این برای زمانی است که کاربران ادعا می‌کنند با ارسال پیام‌های توهین‌آمیز به مدل آسیب می‌رسانند – Anthropic بررسی کرده است که آیا مدل‌های هوش مصنوعی هوشیار هستند یا خیر. این شرکت هیچ برنامه ای برای اجرای این امر برای محافظت از مردم ندارد.
با نگاهی به این چشم انداز، نمی توان نتیجه گرفت که شرکت های هوش مصنوعی به اندازه کافی کار نمی کنند. البته، تصمیم گیری برای پایان دادن به مکالمه پیچیده است. اما اجازه دادن به آن – یا بدتر از آن، دنبال کردن بی شرمانه نامزدی به هر قیمتی – به آنها اجازه دهید برای همیشه ادامه دهند، فقط بی دقتی نیست. این یک انتخاب است.

لینک منبع