OpenAI اعلام کرده است که مدل جدید O1 از نظر ریسک‌های مرتبط با سلاح‌های بیولوژیکی در سطح متوسطی قرار دارد.
در این مقاله از زرین مگ، به بررسی جامع و دقیق خطرات احتمالی این مدل در حوزه سلاح‌های بیولوژیکی و نحوه کنترل این تهدیدات خواهیم پرداخت. با ما همراه باشید تا به جزئیات بیشتری از این موضوع بپردازیم و دیدگاه‌های کارشناسان را در این زمینه مرور کنیم.
این مقاله را از دست ندهید: معرفی هدست Meta Quest 3S با دکمه Action: تجربه‌ای جدید در دنیای واقعیت مجازی
افزایش نگرانی‌ها از خطرات سوءاستفاده از مدل جدید هوش مصنوعی OpenAI برای ساخت سلاح‌های بیولوژیکی
آخرین مدل هوش مصنوعی شرکت OpenAI با نام O1 نگرانی‌های گسترده‌ای در میان محققان امنیتی درباره سوءاستفاده از آن برای توسعه سلاح‌های بیولوژیکی ایجاد کرده است. بر اساس گزارش Financial Times، این مدل که به تازگی معرفی شده، توانایی‌های پیشرفته‌ای در استدلال، حل مسائل پیچیده ریاضی و پاسخ به سؤالات علمی دارد. این ویژگی‌ها به عنوان یک گام مهم در جهت ایجاد هوش مصنوعی جامع یا ماشین‌هایی با قابلیت‌های شناختی در سطح انسانی شناخته می‌شوند.
جالب توجه است که خود شرکت OpenAI نیز به این خطرات اذعان کرده است. این شرکت در توضیحات مربوط به نحوه عملکرد مدل‌های جدید خود اعلام کرده که این فناوری از لحاظ ریسک برای مسائل مربوط به سلاح‌های شیمیایی، بیولوژیکی، رادیولوژیکی و هسته‌ای (CBRN) در سطح «متوسط» قرار دارد. این سطح، بالاترین درجه خطری است که تاکنون برای مدل‌های OpenAI اعلام شده است، به این معنا که مدل O1 به‌طور قابل‌توجهی می‌تواند به متخصصان در این حوزه‌های حساس کمک کند تا تهدیدات مرتبط با CBRN را ایجاد و تقویت کنند.
به گفته کارشناسان امنیتی، این توانایی‌های پیشرفته، از جمله قابلیت اجرای استدلال‌های گام‌به‌گام، خطر سوءاستفاده توسط بازیگران بد را افزایش می‌دهد. با وجود این هشدارها، شرکت‌های فناوری بزرگ مانند گوگل، متا و انتروپیک همچنان در حال رقابت برای توسعه و بهبود سیستم‌های هوش مصنوعی پیشرفته هستند که بتوانند به انسان‌ها در انجام وظایف روزانه و هدایت زندگی‌شان کمک کنند.
این پیشرفت‌ها، در کنار خطرات بالقوه، منجر به افزایش بحث‌ها پیرامون قانون‌گذاری و نظارت بر توسعه هوش مصنوعی شده است.
لایحه SB 1047 کالیفرنیا و مخالفت OpenAI: چالش‌های قانون‌گذاری در حوزه هوش مصنوعی
بحث پیرامون لایحه SB 1047 در کالیفرنیا توجه زیادی را به خود جلب کرده است. این لایحه از شرکت‌های سازنده هوش مصنوعی می‌خواهد اقداماتی برای کاهش خطر استفاده از مدل‌هایشان در توسعه سلاح‌های بیولوژیکی انجام دهند. این تلاش‌ها بخشی از روند گسترده‌تری برای قانون‌گذاری و نظارت بر فناوری‌های هوش مصنوعی است که پتانسیل سوءاستفاده‌های خطرناکی دارند.
این مقاله را از دست ندهید: این ویژگی‌های جدید در ماه دسامبر با iOS 18.2 به آیفون شما می‌آیند
برخی شرکت‌های فناوری و سرمایه‌گذاران، از جمله OpenAI، نسبت به تأثیرات منفی این قانون هشدار داده‌اند. آنها معتقدند که چنین قوانینی ممکن است به صنعت هوش مصنوعی آسیب بزند و سرعت نوآوری در این حوزه را کاهش دهد. اکنون، تصمیم نهایی در دستان فرماندار کالیفرنیا، گاوین نیوسام، است که طی روزهای آینده باید این لایحه را امضا یا وتو کند.
