استعفای دانشمند ارشد Anthropic با پیامی مرموز
به گزارش نیو وبلاگ، «مرینانک شارما»، مدیر تیم تحقیقات امنیتی در شرکت Anthropic (رقیب اصلی سازنده ChatGPT)، با انتشار نامه ای سرگشاده از سمت خود کناره گیری کرد. شارما که وظیفه اش ایجاد «محافظ» برای پیشگیری از خطرات هوش مصنوعی بود، با لحنی هشدارآمیز نوشت: «دنیا در وضعیت مخاطره آمیزی قرار دارد؛ از بحران های زیستی گرفته تا چاپلوسی و فریبکاری هوش مصنوعی.»
به گزارش نیو وبلاگ به نقل از خبر آنلاین و برپایه گزارش هوشیو، او اعلام نمود که می خواهد وقت خویش را صرف «شعر» و «بیان شجاعانه حقایق» کند؛ پیامی که بسیاری آنرا نشانه ای از بن بست اخلاقی در شرکت های بزرگ فناوری می دانند.
همزمان با این استعفا، «زوئی هیتزیگ»، محقق شرکت OpenAI هم با انتقادی تند از این شرکت جدا شد. او باور دارد ورود تبلیغات به محیط گفتگو با هوش مصنوعی، فاجعه بار خواهد بود.
نگرانی آنها از این مساله است که کاربران خصوصی ترین مسایل خود، از ترس های پزشکی گرفته تا باورهای مذهبی را با چت بات ها در بین می گذارند و خطر اصلی این کار، استفاده از این داده ها برای «تبلیغات هدفمند» است که پتانسیل بالایی برای دست کاری ذهن انسان و سوءاستفاده های ناشناخته دارد.
به دنبال این تنش ها، شرکت Anthropic در یک آگهی پرهزینه، رقیب خود یعنی OpenAI را به فریبکاری متهم کرد. «سم آلتمن»، مدیرعامل OpenAI هم ساکت ننشست و با کنایه به آگهی های رقیب، آنها را «غیرصادقانه» خواند و تاکید کرد که تبلیغات، تنها راه مجانی نگه داشتن هوش مصنوعی برای همه مردم است.
استعفای همزمان نخبگانی مانند شارما و هیتزیگ نشان داده است که در لایه های زیرین این شرکت ها، شکاف عمیقی بین «تیم های امنیت» و «تیم های فروش» به وجود آمده است. محققان می گویند وقتی شرکت ها برای جلب رضایت سهامداران بسمت مدلهای تجاری و تبلیغاتی حرکت می کنند، اصول ایمنی که برای صیانت از بشریت وضع شده بود، نخستین قربانی این مسیر خواهد بود.
منبع: نیو وبلاگ
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب