توسعه سریع هوش مصنوعی و مدیریت پیامدهای آن به یکی از حیاتی ترین موضوعات در دستور کار بین المللی تبدیل شده است.
رهبران بسیاری از کشورها در هشتاد و یکمین نشست مجمع عمومی سازمان ملل به طور گسترده به این موضوع پرداختند. دبیرکل سازمان ملل متحد با تاکید بر ضرورت قوانین بین المللی حاکم بر آن، از رهبران جهان خواست استفاده از هوش مصنوعی را تنظیم کنند.
این موضوع در بحبوحه توسعه عوامل هوش مصنوعی حادتر می شود. برخلاف چت‌بات‌های استاندارد، این عوامل می‌توانند اقدامات مستقلی مانند دسترسی به سیستم‌ها، کار با فایل‌ها، ارسال ایمیل، اجرای تراکنش‌ها یا تغییر کد انجام دهند. نمونه هایی قبلاً ثبت شده است که چنین سیستم هایی خارج از پارامترهای مورد نظر خود عمل می کنند.
به عنوان مثال، امسال… در ماه ژوئیه، OpenAI گزارش داد که در طول آزمایش امنیت سایبری داخلی، مدل‌های آن کنترل‌هایی را که برای جدا کردن آنها از اینترنت طراحی شده بودند دور زدند و به سیستم‌های خارجی دسترسی پیدا کردند.
آنتروپیک بعداً گزارش داد که هنگام تجزیه و تحلیل تست‌های امنیت سایبری خود، مواردی را کشف کرد که کلود – که به دلیل پیکربندی نادرست محیط آزمایش به اینترنت دسترسی پیدا کرده بود – به سیستم‌های واقعی سه سازمان دسترسی پیدا کرد.
تصادفی نیست که OpenAI انتشار GPT Astra، مدل هوش مصنوعی نسل بعدی خود را لغو کرد. این تصمیم به دنبال آزمایش داخلی بود که نشان داد این سیستم با استانداردهای ایمنی و تراز شرکت مطابقت ندارد.
این حوادث متمایز هستند و دلایل آنها متفاوت است. با این حال، سؤال اساسی باقی می‌ماند: تا چه حد می‌توانیم سیستم را کنترل کنیم، وقتی که توانایی انجام اقدامات مستقل به آن اعطا شده است – به ویژه در پس زمینه چنین توسعه گسترده؟
آناهیت پرزیان، معاون هوش مصنوعی و مشارکت های جهانی بنیاد انکوباتور سازمانی در گفتگو با ما خاطرنشان می کند که هوش مصنوعی یکی از خلاقانه ترین فناوری های تاریخ بشر است و پتانسیل های بسیار زیادی را ارائه می دهد. به گفته او، سرعت توسعه آن به طور قابل توجهی از سرعت نوآوری که در انقلاب های صنعتی قبلی مشاهده شده بود، بیشتر است:
آناهیت پرزیان خاطرنشان می کند: “در عین حال، آیا ما آماده هستیم تا با این نوآوری ها همگام شویم؟ آیا بشریت آماده است که همه اینها را به درستی و به موقع جذب کند؟ اینجاست که مسائلی که نیاز به بحث دارند مطرح می شود.” با این حال، در میان فناوری‌هایی که به سرعت در حال تکامل هستند، یک سوال کلیدی باقی می‌ماند: آیا سیستم‌های قانونی و نظارتی همگام با پیشرفت‌های فناوری هستند؟ آناهیت پرزیان تاکید می کند که توسعه فناوری متوقف نخواهد شد و تلاش برای توقف پیشرفت نتایج مثبتی به همراه نخواهد داشت. به گفته او، چالش در توقف توسعه نیست، بلکه در ایجاد قوانین روشن برای اعمال آن است.
برای جزئیات ویدیو را ببینید
