هوش مصنوعی (AI) در حال انفجار است. بین سالهای ۲۰۱۳ تا ۲۰۲۳، ۵۵۰۹ استارتآپ هوش مصنوعی در ایالات متحده وجود داشت. و به گفته Statista، آنها مقدار زیادی بودجه دریافت می کنند.
“ در سال ۲۰۲۴، استارت آپ های هوش مصنوعی بیش از ۰٫۵ تریلیون دلار دریافت کردند و بیش از ۱۰۰ میلیارد دلار جمع آوری کردند.. “
در سال ۲۰۲۴، استارت آپ های هوش مصنوعی بیش از ۰٫۵ تریلیون دلار دریافت کردند و بیش از ۱۰۰ میلیارد دلار جمع آوری کردند.
با وجود موفقیت هوش مصنوعی، هنوز مناطق خاکستری و خطرات قانونی زیادی وجود دارد. شرکت ها و LLM هایی که ایجاد می کنند می توانند و قطعاً اشتباه می کنند. یک مطالعه نشان داد که LLM ها در ۶۰ درصد مواقع نادرست بودند. و حتی LLM مانند ChatGPT نیست. اینها چت ربات های کنترل شده با هوش مصنوعی، سیستم های مالی، سیستم های رزرو و سیستم های کنترل زنجیره تامین هستند. گستره هوش مصنوعی اکنون بیش از آن چیزی است که ما می توانستیم تصور کنیم.
به نظر می رسد خطرات قانونی این اشتباه تقریباً بیشتر از خطای انسانی مرتبط است. برای کسب اطلاعات بیشتر به ادامه مطلب مراجعه کنید.
چگونه هوش مصنوعی آن را اشتباه می کند
روشی که هوش مصنوعی اشتباه می کند مانند انسان ها نیست. وقتی اشتباه می کنیم، معمولاً واضح است. اشتباه محاسباتی، تاریخ اشتباه، اشتباه تایپی. اشکالات هوش مصنوعی سخت تر هستند. آنها با اعتماد به نفس، مقتدر، و در چیزی که به نظر دقیق می رسد مدفون هستند. این توهم ها که به عنوان توهم شناخته می شوند، در تمام سیستم های هوش مصنوعی رخ می دهند.
یک سیستم رزرو سفر با هوش مصنوعی را در نظر بگیرید که پروازی را اختراع می کند که وجود ندارد. یا اخیراً اغلب سیستمهای رزرواسیونی که پرواز رزرو میکنند. یا یک ابزار مالی که با اطمینان میلیاردها دلار تولید می کند. یا یک چت ربات منابع انسانی که توصیه های حقوقی نادرستی به کارمندان می دهد.
داده های آموزشی مقصر دیگری است. تعصب، اطلاعات قدیمی یا فقدان زمینه به این معناست که مدلهای هوش مصنوعی درسهای اشتباهی میآموزند. هوش مصنوعی ساخته شده بر روی داده های کج، نتایج ناهمواری ایجاد می کند.
سپس پیچیدگی را اضافه کنید. بسیاری از سیستم های هوش مصنوعی جعبه سیاه هستند. حتی توسعه دهندگان به طور کامل نمی دانند که چگونه نتایج ایجاد می شود.
خطرات کلی هوش مصنوعی
ریسک ها هر لایه از عملیات تجاری را پوشش می دهند. در اینجا برخی از رایج ترین خطرات وجود دارد:
- نقض حریم خصوصی داده ها هوش مصنوعی داده ها را می خورد، اما تغذیه اطلاعات حساس آن بدون کنترل مناسب می تواند قوانینی مانند GDPR یا CCPA را نقض کند. سوابق پزشکی حساس را برای تجزیه و تحلیل به چت بات ارسال می کنید؟ اگر بیمار متوجه شود کابوس انطباق است.
- تعصب و تبعیض. از استخدام ابزار گرفته تا بررسی غیرمنصفانه متقاضیان تا خدمات مالی که بر اساس دادههای نادرست وام را رد میکنند، هوش مصنوعی میتواند سوگیریهای سیستمی را بازتولید کند. اینها به سرعت به ادعاهای تبعیض تبدیل می شوند.
- مسائل مربوط به مالکیت معنوی (IP). اگر هوش مصنوعی محتوا را بر اساس داده های آموزشی دارای حق نسخه برداری تولید کند، نتیجه متعلق به چه کسی است؟ و اگر خروجی آی پی شخص دیگری را نقض کند از چه کسی شکایت خواهد شد؟ دادگاه ها همچنان روی این موضوع کار می کنند.
- اطلاعات غلط و افترا. یک سیستم هوش مصنوعی که اطلاعات نادرست یا مضر در مورد یک فرد یا یک برند ارائه میکند، میتواند شکایتهایی را برای افترا به راه بیندازد.
خطاهای عملیاتی هوش مصنوعی زنجیره تامین را در نظر بگیرید که محموله اشتباه را به مکان اشتباه ارسال می کند. یا یک الگوریتم معاملاتی که معاملات مضر را انجام می دهد.
عدم رعایت الزامات نظارتی. در صنایعی مانند مالی، مراقبت های بهداشتی و بیمه، مقررات سختگیرانه به دلایلی وجود دارد.
اشکالات هوش مصنوعی سطح بالا
برخی از اشکالات هوش مصنوعی با مشخصات بالا و گسترده وجود داشت.
در سال ۲۰۲۳، ایر کانادا پس از اینکه ربات چت خدمات مشتریانش به مسافری وعده تخفیفی داد که وجود نداشت و او را فریب داد تا قیمت کامل را بپردازد، در آب گرم قرار گرفت. شرکت هواپیمایی سعی کرد ادعا کند که چت بات مسئول بوده است. دادگاه مخالفت کرد و به ایر کانادا دستور داد که این تخفیف را رعایت کند.
DoNotPay، استارت آپی به نام «اولین وکیل روباتی جهان»، به اتهام وکالت بدون مجوز با یک دعوی حقوقی دسته جمعی روبرو شده است. این پلتفرم قول داد که از طریق هوش مصنوعی به کاربران در دعاوی حقوقی کمک کند، اما فاقد نظارت وکیل بود. کاربران ادعا کردند که این سرویس گمراه کننده بود و حق با آنها بود.
واتسون برای سرطان شناسی IBM زمانی وعده داد که توصیه های درمانی سرطان را متحول کند. در عوض، بر اساس اسناد داخلی، پیشنهادهای “خطرناک و نادرست” را ارائه کرد.
و بیایید چت ربات بدنام مایکروسافت Tay را فراموش نکنیم. در عرض ۲۴ ساعت پس از راه اندازی، Tay به لطف دستکاری آنلاین، از بازیگوشی به تولید محتوای توهین آمیز و مضر تبدیل شد.
خطرات قانونی برای استارتآپهای هوش مصنوعی
همانطور که اکنون وجود دارد، دعواهایی که شرکت ها ادعا می کنند سیستم هوش مصنوعی آنها مقصر است، نه آنها، هرگز برنده نمی شوند. شما سیستم هوش مصنوعی خود هستید. برخی از خطرات قانونی رایج عبارتند از:
- مسئولیت محصول اگر هوش مصنوعی شما باعث آسیب مالی، فیزیکی یا اعتباری شود، استارتاپ شما ممکن است با ادعای مسئولیت محصول مواجه شود. بیمه خطاها و نارسایی های حرفه ای ممکن است لزوماً خطاهای هوش مصنوعی را پوشش ندهد.
- مسئولیت قراردادی قول دادن بیش از حد در شرایط خدمات خود یا عدم تحویل، راه را برای نقض ادعاهای قرارداد باز می کند.
- اجرای مقررات. قانون هوش مصنوعی اتحادیه اروپا، قوانین حفظ حریم خصوصی کالیفرنیا و دستورالعمل های FTC ایالات متحده، مقررات هوش مصنوعی را سخت تر می کند.
- قانون کار. اگر ابزار استخدام هوش مصنوعی شما نامزدها را ناعادلانه فیلتر می کند، تقصیر الگوریتم نیست.
- اختلافات IP استفاده از مطالب دارای حق چاپ در آموزش بدون اجازه یا ایجاد نتایج بسیار نزدیک به آثار موجود می تواند منجر به شکایت شود. Getty Images در حال حاضر به همین دلیل از Stability AI شکایت کرده است.
اگر هوش مصنوعی مورد استفاده خود را خراب کرد، نمی توانید سرزنش کنید. این نوع حفاظت هنوز وجود ندارد. استارت آپ های هوش مصنوعی باید بدانند که تقصیر تقریباً همیشه آنهاست.
