هشدار آنتروپیک درباره نزدیک شدن هوش مصنوعی به مرحله خودبهبودی؛ آیا کنترل AI دشوارتر می‌شود؟

شرکت آنتروپیک هشدار داده است که هوش مصنوعی ممکن است به‌زودی به مرحله‌ای برسد که بتواند با کمک به فرایند آموزش و توسعه خودش، سرعت پیشرفت نسل‌های بعدی مدل‌ها را به‌طور چشمگیری افزایش دهد. این وضعیت که با عنوان «خودبهبودی بازگشتی» (RSI) شناخته می‌شود، هم نویدبخش پیشرفت‌های بزرگ فناوری است و هم نگرانی‌های جدی درباره ایمنی و کنترل هوش مصنوعی ایجاد می‌کند.

این هشدار در نسخه اصلاح‌شده گزارش ثبت عرضه سهام آنتروپیک (S-1A) منتشر شده است؛ گزارشی که علاوه بر ارائه اطلاعات مالی شرکت، به برخی از خطرات احتمالی توسعه سریع هوش مصنوعی نیز می‌پردازد.

خودبهبودی بازگشتی به وضعیتی گفته می‌شود که در آن یک سیستم هوش مصنوعی بتواند با استفاده از توانایی‌های خود، فرایند توسعه و آموزش نسل‌های بعدی را بهبود دهد. در چنین شرایطی، پیشرفت مدل‌ها ممکن است با سرعتی فزاینده ادامه پیدا کند و توانایی‌های هوش مصنوعی در مدت‌زمان کوتاهی افزایش یابد.

از نگاه منتقدان هوش مصنوعی، تحقق این سناریو می‌تواند خطرناک باشد؛ زیرا ممکن است سیستم‌هایی ایجاد شوند که توانایی‌هایشان از ظرفیت نظارت و کنترل انسان فراتر برود. در مقابل، طرفداران این فناوری معتقدند خودبهبودی بازگشتی می‌تواند به افزایش چشمگیر بهره‌وری، تسریع اکتشافات علمی و دستیابی به پیشرفت‌هایی منجر شود که در شرایط عادی به زمان بسیار بیشتری نیاز دارند.

آنتروپیک نیز ظاهراً هر دو جنبه این تحول را جدی می‌گیرد. این شرکت در گزارش خود تأیید کرده است که هم‌اکنون از سیستم‌های هوش مصنوعی در فرایند تحقیق و توسعه داخلی استفاده می‌کند، اما هشدار داده است که همین رویکرد می‌تواند خطرات ایمنی قابل‌توجهی به همراه داشته باشد.

بر اساس توضیحات آنتروپیک، استفاده از هوش مصنوعی برای توسعه مدل‌های قدرتمندتر ممکن است سرعت پیشرفت فناوری را از توانایی شرکت‌ها برای طراحی، اعتبارسنجی و اجرای اقدامات ایمنی و امنیتی فراتر ببرد.

این شرکت همچنین در گزارش جدید خود به نکته مهمی اشاره کرده است: آنتروپیک در گذشته شتاب قابل‌توجه در روند توسعه برخی قابلیت‌های هوش مصنوعی را تا پیش از وقوع آن به‌درستی تشخیص نداده بود. به همین دلیل، ممکن است در آینده نیز نتواند سرعت واقعی پیشرفت مدل‌های خود را به‌موقع شناسایی کند.

بخش دیگری از این گزارش نشان می‌دهد که برآوردهای داخلی آنتروپیک درباره مدل‌های آینده، حاکی از احتمال نزدیک شدن این شرکت به آستانه‌ای است که در سیاست «مقیاس‌پذیری مسئولانه» آن با عنوان «پیشرفت بسیار شتاب‌یافته منتسب به هوش مصنوعی» تعریف شده است.

با این حال، آنتروپیک تأکید کرده است که هیچ‌یک از مدل‌های فعلی این شرکت هنوز از این آستانه عبور نکرده‌اند و ارزیابی داده‌های مربوط به این موضوع همچنان ادامه دارد.

این شرکت همچنین اعلام کرده است که در آینده قابل پیش‌بینی، قصد ندارد توسعه نسل‌های متوالی مدل‌های پیشرفته را به‌طور کامل به هوش مصنوعی واگذار کند. به گفته آنتروپیک، حتی اگر از نظر فنی امکان طراحی و ساخت مدل‌های جدید بدون دخالت معنادار انسان فراهم شود، این شرکت قصد دارد نظارت انسانی بر چنین فرایندی را حفظ کند.

آنتروپیک در همین راستا از بررسی تغییراتی در سیاست مقیاس‌پذیری مسئولانه خود خبر داده است تا اطمینان حاصل کند کنترل توسعه مدل‌های پیشرفته همچنان در اختیار انسان‌ها باقی می‌ماند.

البته برخی منتقدان معتقدند گزارش‌های ثبت عرضه سهام علاوه بر افشای اطلاعات و خطرات احتمالی، می‌توانند جنبه تبلیغاتی نیز داشته باشند؛ بنابراین ادعای نزدیک شدن به مرحله خودبهبودی بازگشتی باید با احتیاط ارزیابی شود.

براساس گزارش Techcrunch، با وجود این ملاحظات، پیشرفت چشمگیر مدل‌های کلود (Claude)، به‌ویژه در زمینه برنامه‌نویسی، ریاضیات و امنیت سایبری، نشان می‌دهد توانایی‌های هوش مصنوعی آنتروپیک در سال جاری به‌سرعت گسترش یافته است. اگر پیش‌بینی‌های این شرکت درباره نزدیک شدن به خودبهبودی بازگشتی درست باشد، موضوع نظارت و تدوین مقررات برای توسعه هوش مصنوعی اهمیت دوچندانی پیدا خواهد کرد.