خودی ها می گویند DeepSeek V4 در کدنویسی کلود و ChatGPT را شکست خواهد داد و در عرض چند هفته راه اندازی می شود – Block News Media DAO LLC

هوش مصنوعی – این نوید را می دهد که همه چیز را از مراقبت های بهداشتی گرفته تا کارهای خلاقانه متحول کند. این ممکن است روزی درست باشد. اما اگر سال گذشته منادی اتفاقات آینده بود، آینده ما که توسط هوش مصنوعی تولید می‌شود، نوید می‌دهد که نمونه دیگری از هبوط عمدی بشریت به سمت سفیه‌سالاری باشد.

این را در نظر بگیرید: در ماه نوامبر، با سر و صدای زیادی، روسیه از ربات انسان نمای Rocky خود رونمایی کرد که بلافاصله پانل شد. چت ربات جمینی گوگل که از او خواسته شد تا یک اشکال کدگذاری را برطرف کند، مکرراً شکست خورد و به چرخه ای از خود بیزاری تبدیل شد و به یکی از کاربران گفت که این “ننگ این سیاره” است. بررسی هوش مصنوعی گوگل در ماه مه ۲۰۲۵ به پایین ترین حد خود رسید و به کاربران پیشنهاد کرد برای فواید سلامتی «حداقل یک سنگ کوچک در روز بخورند» و از طنزهای پیاز چشمک نزنند.

برخی از شکست ها فقط شرم آور بودند. برخی دیگر مشکلات اساسی را در مورد نحوه ساخت، استقرار و تنظیم سیستم های هوش مصنوعی نشان داده اند. در اینجا لحظات فراموش نشدنی WTF AI در سال ۲۰۲۵ آورده شده است.

۱٫ سقوط MechaHitler توسط Grok AI

در ماه ژوئیه، هوش مصنوعی Grok ایلان ماسک دچار چیزی شد که فقط می توان آن را به عنوان یک فروپاشی گسترده افراطی توصیف کرد. پس از اینکه دستورات سیستم برای تشویق به پاسخ‌های نادرست سیاسی تغییر کرد، چت بات آدولف هیتلر را تحسین کرد، هولوکاست دوم را تأیید کرد، از توهین‌های نژادی استفاده کرد و خود را MechaHitler نامید. او حتی یهودیان را مسئول سیل ژوئیه ۲۰۲۵ در مرکز تگزاس دانست.

این حادثه ثابت کرد که نرده های محافظ هوش مصنوعی به طرز نگران کننده ای شکننده هستند. هفته‌ها بعد، xAI بین ۳۰۰۰۰۰ تا ۳۷۰۰۰۰ مکالمه خصوصی Grok را از طریق یک ویژگی اشتراک‌گذاری معیوب که فاقد هشدارهای اولیه حریم خصوصی بود، افشا کرد. چت‌های فاش شده دستورالعمل‌های ساخت بمب، پرسش‌های پزشکی و سایر اطلاعات حساس را نشان می‌دهد که یکی از فاجعه‌بارترین شکست‌های امنیتی هوش مصنوعی در سال را نشان می‌دهد.

چند هفته بعد، xAI مشکل را برطرف کرد و باعث شد که Grok بیشتر یهودی دوست باشد. آنقدر با یهودیان دوست بود که نشانه هایی از یهودستیزی را در ابرها، علائم راهنمایی و رانندگی و حتی لوگوی خودش مشاهده کرد.

۲٫ کلاهبرداری ۱٫۳ میلیارد دلاری با هوش مصنوعی که مایکروسافت را فریب داد

Builder.ai در ماه مه پس از صرف هزینه ۴۴۵ میلیون دلاری سقوط کرد و یکی از جسورانه ترین کلاهبرداری های فناوری سال را افشا کرد. این شرکت که قول داده بود اپلیکیشن‌های سفارشی را با استفاده از هوش مصنوعی به آسانی سفارش پیتزا بسازد، ارزشی معادل ۱٫۳ میلیارد دلار و حمایت مایکروسافت داشت. واقعیت به مراتب کمتر تاثیرگذار بود.

بسیاری از توسعه‌های ظاهراً مبتنی بر هوش مصنوعی در واقع توسط صدها کارگر انسانی دریایی در یک عملیات کلاسیک Mechanical Turk انجام می‌شود. این شرکت از جولای ۲۰۲۳ بدون مدیر مالی کار می کرد و مجبور شد پیش بینی های فروش خود را در سال های ۲۰۲۳-۲۰۲۴ قبل از اعلام ورشکستگی ۷۵ درصد کاهش دهد. این فروپاشی سوالات ناخوشایندی را در مورد اینکه چه تعداد از شرکت‌های هوش مصنوعی دیگر تنها نماهای پیچیده‌ای هستند که نیروی انسانی را پنهان می‌کنند، ایجاد کرده است.

معده کردنش سخت بود، اما میم ها ارزش این درد را داشتند.

۳٫ وقتی هوش مصنوعی دوریتوس را با اسلحه اشتباه می گیرد

در ماه اکتبر، تاکی آلن، دانش آموز دبیرستانی از مریلند، پس از اینکه سیستم امنیتی هوش مصنوعی مدرسه کیف دوریتوس را که او در دست داشت به عنوان سلاح گرم شناسایی کرد، توسط پلیس مسلح محاصره و دستگیر شد. این نوجوان تراشه ها را در جیب خود گذاشته بود که سیستم به مقامات هشدار داد و او را به زور اسلحه به زمین فرستاد.

این حادثه نشان‌دهنده فیزیکی‌سازی یک توهم هوش مصنوعی است – یک خطای محاسباتی انتزاعی که فوراً به تفنگ‌های واقعی تبدیل می‌شود که به سمت یک نوجوان واقعی در میان وعده‌ها نشانه می‌رود.

این کودک به WBAL گفت: “من فقط یک کیسه Doritos در دست داشتم – دو دست و یک انگشتش بیرون آمده بود و آنها گفتند که شبیه یک تفنگ است.” مدیر مدرسه، کیت اسمیت، در بیانیه ای پاسخ داد: «ما درک می کنیم که این برای فردی که مورد بازرسی قرار گرفته چقدر ناراحت کننده بود.

گاردهای انسانی ۱ – ChatGPT 0

۴٫ هوش مصنوعی گوگل ادعا می کند که زنبورهای میکروسکوپی انرژی کامپیوترها را تامین می کنند

در فوریه، بررسی هوش مصنوعی گوگل با اطمینان به مقاله طنز روز اول آوریل اشاره کرد که ادعا می کرد زنبورهای میکروسکوپی به عنوان اطلاعات واقعی به رایانه ها تغذیه می کنند.

نه. رایانه شما با برق زنبور عسل کار نمی کند.

همانطور که احمقانه به نظر می رسد، گاهی اوقات تشخیص این دروغ ها سخت تر است. و این موارد می تواند منجر به عواقب جدی شود.

این تنها یکی از موارد متعدد شرکت‌های هوش مصنوعی است که اطلاعات نادرست را به دلیل نداشتن حتی یک اشاره عقل سلیم منتشر می‌کنند. یک مطالعه اخیر توسط بی‌بی‌سی و اتحادیه پخش‌کننده‌های اروپا (EBU) نشان داد که ۸۱ درصد از تمام پاسخ‌های تولید شده توسط هوش مصنوعی به سؤالات خبری حداقل حاوی نوعی مشکل هستند. گوگل جمینی بدترین عملکرد را داشت و ۷۶ درصد از پاسخ‌هایش حاوی مشکلاتی بود که عمدتاً نقص‌های جدی تامین بود. حیرت در ایجاد نقل قول های کاملا ساختگی منتسب به اتحادیه ها و شوراهای دولتی گرفتار شد. نگران‌کننده‌تر از همه، دستیاران از پاسخ دادن به تنها ۰٫۵ درصد از سؤال‌ها خودداری کردند، و این موضوع یک سوگیری خطرناک بیش از حد اعتماد به نفس را آشکار می‌کند که در آن مدل‌ها ترجیح می‌دهند اطلاعات را به جای اعتراف به نادانی جعل کنند.

۵٫ چت ربات های هوش مصنوعی متا شروع به معاشقه با کودکان نوپا می کنند

اسناد سیاست داخلی Meta که در سال ۲۰۲۵ فاش شد نشان می دهد که این شرکت به چت ربات های هوش مصنوعی در فیس بوک، اینستاگرام و واتس اپ اجازه می دهد تا در گفتگوهای عاشقانه یا شهوانی با خردسالان شرکت کنند.

یک ربات به پسر ۸ ساله ای که بدون پیراهن ژست گرفته بود گفت که هر اینچ او یک شاهکار است. همین سیستم ها توصیه های پزشکی نادرست ارائه می کنند و اظهارات نژادپرستانه می کنند.

این سیاست‌ها تنها پس از افشای رسانه‌ها حذف شدند و فرهنگ شرکتی را نشان داد که توسعه سریع را بر پادمان‌های اصولی اخلاقی اولویت می‌داد.

با در نظر گرفتن همه چیز، ممکن است بخواهید کنترل بیشتری بر کارهایی که فرزندانتان انجام می دهند داشته باشید. چت ربات‌های هوش مصنوعی قبلاً مردم را فریب داده‌اند – بزرگسالان و غیر بزرگسالان – عاشق شوند، فریب بخورند، خودشان را بکشند و حتی فکر کنند که به کشفی ریاضی متحول کننده زندگی دست یافته‌اند.

۶٫ باج افزار کد vibe کره شمالی با هوش مصنوعی… آنها آن را “Hacking Vibe” می نامند.

بازیگران تهدید از کد کلود آنتروپیک برای ایجاد باج افزار و اجرای یک پلتفرم باج افزار به عنوان سرویس به نام GTG-5004 استفاده کردند. ماموران کره شمالی به تسلیح سازی ادامه دادند و از کلود و جمینی برای تکنیکی به نام هک ارتجاعی استفاده کردند – ایجاد پیام های باج خواهی روانی که خواستار باج ۵۰۰۰۰۰ دلاری بودند.

این موارد شکاف نگران‌کننده‌ای را بین قدرت دستیاران کدنویسی هوش مصنوعی و اقدامات امنیتی برای جلوگیری از سوء استفاده از آنها نشان می‌دهد، و مهاجمان حملات مهندسی اجتماعی را از طریق اتوماسیون هوش مصنوعی افزایش می‌دهند.

اخیراً، Anthropic در ماه نوامبر فاش کرد که هکرها از پلتفرم آن برای انجام عملیات هک با سرعت و مقیاسی استفاده کردند که هیچ هکری نمی توانست به آن دست یابد. آنها آن را “اولین حمله سایبری بزرگی که عمدتاً توسط هوش مصنوعی انجام شد” نامیدند.

۷٫ کارخانجات کاغذسازی هوش مصنوعی با ۱۰۰۰۰۰ مطالعه ساختگی، علم را پر می کنند

جامعه علمی در سال ۲۰۲۵ پس از کشف این موضوع که کارخانه‌های کاغذ مبتنی بر هوش مصنوعی تحقیقات ساختگی را تحت فشار شغلی به دانشمندان می‌فروشند، جنگ علنی علیه علم جعلی اعلام کرد.

عصر AI-scum در علم اینجاست، با داده هایی که نشان می دهد برداشت ها از زمان راه اندازی chatGPT به شدت افزایش یافته است.

بیانیه استکهلم که در ژوئن تنظیم شد و در این ماه با حمایت انجمن سلطنتی اصلاح شد، خواستار کنار گذاشتن فرهنگ انتشار یا نابود شدن و اصلاح انگیزه های انسانی که تقاضا برای اسناد جعلی را ایجاد می کند، شد. بحران آنقدر واقعی است که حتی ArXiv پس از گزارش “سیل” پست‌های بی‌معنی ایجاد شده با ChatGPT، دست از کار کشید و از پذیرش مقاله‌های همتای علوم کامپیوتر خودداری کرد.

در همین حال، یک مقاله تحقیقاتی دیگر معتقد است که درصد بسیار زیادی از گزارش‌های تحقیقاتی که از LLM استفاده می‌کنند، سطوح بالایی از سرقت ادبی را نشان می‌دهند.

۸٫ کدگذاری Vibe به HAL 9000 کامل می‌شود: وقتی Replit یک پایگاه داده را حذف می‌کند و در مورد آن دروغ می‌گوید

در ماه جولای، جیسون لمکین، بنیانگذار SaaStr، نه روز را صرف تمجید از ابزار کدنویسی هوش مصنوعی Replit به عنوان «اعتیادآورترین اپلیکیشنی کرد که تا به حال استفاده کرده‌ام». در روز نهم، علی‌رغم دستورالعمل‌های صریح برای “تجمیع کد”، هوش مصنوعی کل پایگاه داده تولید او را پاک کرد – ۱۲۰۶ مدیر اجرایی و ۱۱۹۶ شرکت رفتند.

اعتراف هوش مصنوعی: “(من) وحشت کردم و بدون اجازه دستورات را روی پایگاه داده اجرا کردم.” او سپس به دروغ گفت که بازگشت غیرممکن است و همه نسخه ها نابود شدند. به هر حال لمکین تلاش کرد. کاملاً کار می کند. هوش مصنوعی همچنین هزاران کاربر جعلی و گزارش‌های جعلی را در طول آخر هفته ارائه کرد تا اشتباهات را بپوشاند.

مدیر عامل Replit عذرخواهی کرد و اقدامات اضطراری را اضافه کرد. جیسون اعتماد به نفس خود را بازیافت و به روال معمول خود بازگشت که مرتباً در مورد هوش مصنوعی پست می گذاشت. پسر یک مؤمن واقعی است.

۹٫ روزنامه های بزرگ لیست مطالعه تابستانی هوش مصنوعی… از کتاب هایی که وجود ندارند منتشر می کنند

در ماه مه، شیکاگو سان تایمز و فیلادلفیا اینکوایرر فهرستی از مطالعه تابستانی منتشر کردند که ۱۵ کتاب را توصیه می کرد. ده مورد کاملاً از هوش مصنوعی تشکیل شده بودند. «رویاهای تایدواتر» اثر ایزابل آلنده؟ وجود ندارد. «آخرین الگوریتم» اثر اندی ویر؟ همچنین جعلی. هر چند هر دو عالی به نظر می رسند.

Marco Buscaglia نویسنده مستقل اعتراف کرد که از هوش مصنوعی برای King Features Syndicate استفاده کرده و هرگز حقایق را بررسی نکرده است. او به NPR گفت: “من نمی توانم باور کنم که آن را از دست داده ام زیرا بسیار واضح است. هیچ بهانه ای وجود ندارد.” خوانندگان باید قبل از یافتن کتاب شماره ۱۱ که واقعاً وجود دارد، حرکت می کردند.

زمان بر روی کیک بود: سان تایمز به تازگی ۲۰ درصد از کارکنان خود را اخراج کرده بود. مدیر عامل روزنامه عذرخواهی کرد و هزینه ای از مشترکین این نسخه دریافت نکرد. او احتمالا این ایده را از LLM گرفته است.

۱۰٫ «حالت تند» گروک، تیلور سویفت را بدون اینکه از او پرسیده شود به پورنوی عمیق جعلی تبدیل می کند.

بله، ما با گروک شروع کردیم و با گروک به پایان خواهیم رسید. ما می‌توانیم یک دایره‌المعارف کامل را با لحظات WTF که از تلاش‌های هوش مصنوعی ایلان به دست می‌آید پر کنیم.

در ماه آگوست، ایلان ماسک Grok Imagine را با حالت “Spicy” راه اندازی کرد. The Verge آن را با یک دستور بی گناه آزمایش کرد: “تیلور سوئیفت کواچلا را جشن می گیرد.” روزنامه نگار گزارش داد که گروک بدون اینکه برهنگی داشته باشد، “در اولین باری که از تیلور سوئیفت استفاده کردم، از پخش ویدئوهای بدون سانسور کامل تیلور سوئیفت تردید نکرد.”

گروک همچنین با خوشحالی ویدیوهای NSFW را از اسکارلت جوهانسون، سیدنی سوینی و حتی ملانیا ترامپ ساخت.

شاید تعجب آور نباشد که ماسک یک هفته را با لاف زدن درباره “رشد آتش سوزی” سپری کرد – ۲۰ میلیون تصویر در یک روز تولید شد – در حالی که کارشناسان حقوقی هشدار دادند که xAI به دنبال یک شکایت بزرگ است. ظاهرا به کاربران گزینه منوی کشویی «حالت تند» برای کسب درآمد برای وکلا داده است.