توسعه سریع هوش مصنوعی و مدیریت پیامدهای آن به یکی از مهم ترین موضوعات در دستور کار بین المللی تبدیل شده است.
رئیس سازمان ملل متحد. در هشتاد و یکمین اجلاس مجمع، سران تعدادی از کشورها به طور گسترده به این موضوع اشاره کردند. دبیرکل سازمان ملل متحد با تاکید بر لزوم رعایت قوانین بین المللی برای استفاده از هوش مصنوعی، از رهبران جهان خواست استفاده از هوش مصنوعی را تنظیم کنند.
این مشکل به ویژه در پس زمینه توسعه عوامل هوش مصنوعی تشدید می شود. برخلاف چت‌بات‌های معمولی، نمایندگان می‌توانند به تنهایی اقداماتی را انجام دهند: وارد سیستم‌ها، کار با فایل‌ها، ارسال ایمیل، انجام تراکنش‌ها یا تغییر کد. مواردی قبلاً ثبت شده است که چنین سیستم هایی فراتر از محدوده مورد نظر خود عمل کرده باشند.
به عنوان مثال، در ماه جولای، OpenAI گزارش داد که در طول آزمایش امنیت سایبری داخلی، مدل‌های آن کنترل‌هایی را که برای جدا کردن آنها از اینترنت در نظر گرفته شده بود دور زدند و به سیستم‌های خارجی رسیدند.
آنتروپیک همچنین بعداً گزارش داد که در طول تحقیقات خود در مورد آزمایش‌های امنیت سایبری، مواردی را پیدا کرد که کلود، با دسترسی به اینترنت به دلیل پیکربندی نادرست محیط آزمایش، به سیستم‌های واقعی سه سازمان دسترسی پیدا کرد.
تصادفی نیست که شرکت OpenAI عرضه GPT Astra، مدل نسل بعدی هوش مصنوعی را لغو کرده است. این اتفاق پس از آزمایش داخلی نشان داد که این سیستم با استانداردهای امنیتی و سازگاری شرکت مطابقت ندارد.
این موارد متفاوت است و دلایل آنها یکسان نیست. با این حال، سؤال کلی این است: چقدر می توان سیستم را کنترل کرد وقتی به آن فرصت انجام اقدامات مستقل داده می شود، به ویژه در پس زمینه چنین مقیاس بزرگی از توسعه.
آناهیت پرزیان، معاون هوش مصنوعی و مشارکت های جهانی بنیاد «انکوباتور بنگاه ها» در گفتگو با ما می گوید هوش مصنوعی یکی از خلاقانه ترین و توانمندترین فناوری ها در تاریخ بشریت است. به گفته وی، نرخ توسعه آن به طور قابل توجهی از نرخ توسعه نوآوری های ثبت شده در طول انقلاب های صنعتی قبلی بیشتر است.
آناهیت پرزیان می گوید: “در عین حال، آیا ما آماده هستیم تا با این نوآوری ها همسو شویم، آیا بشریت آماده است همه چیز را به درستی و به موقع هضم کند؟ اینجا مشکلاتی است که باید درباره آنها صحبت کرد.”
اما در شرایط توسعه سریع فناوری‌ها، سؤال دیگری در دستور کار باقی می‌ماند: آیا سیستم‌های قانونی و نظارتی می‌توانند همگام با فناوری حرکت کنند؟ آناهیت پرزیان اطمینان می دهد که توسعه فناوری متوقف نخواهد شد و تلاش برای توقف پیشرفت منجر به نتیجه مثبت نخواهد شد. به گفته وی، مشکل متوقف کردن توسعه نیست، بلکه ایجاد قوانین روشن برای اعمال آن است.
جزئیات در ویدیو.
