کلود دارد نسخه بعدی خودش را میسازد؛ اعتراف عجیب آنتروپیک
به گزارش ایتنا، آنتروپیک روز پنجشنبه در بیانیهای اعلام کرد که کلود اکنون هدایت ۲۶ درصد از فعالیتهای پژوهش و توسعه مدلهای این شرکت را بر عهده دارد.
به گفته آنتروپیک، این بدان معناست که کلود میتواند بیشتر یک وظیفه مشخص را صرفاً بر اساس یک دستور کلی، بهصورت «از ابتدا تا انتها» و تحت نظارت انسانی انجام دهد؛ هرچند مدل هنوز بهطور کامل خودمختار عمل نمیکند.
بر اساس این گزارش، حدود ۹۰ درصد از فعالیتهای پژوهش و توسعه شرکت نیز به شکل «همکاری» با کلود انجام میشود؛ وضعیتی که به گفته آنتروپیک به معنای توانایی مدل در انجام بخشهای بزرگی از کار، اما تحت هدایت نزدیک انسان است.
روند رشد نقش کلود
نکته قابل توجه در این گزارش، سرعت رشد سهم کلود در پژوهش و توسعه است. طبق اعلام آنتروپیک، در ماه فوریه سهم کلود در هدایت مستقل پروژهها صفر بوده، اما تنها شش ماه بعد، در ماه آگوست، این رقم به ۲۶ درصد رسیده است.
شرکت همچنین اعلام کرد که تا آگوست حدود ۳۰ هزار ایجنت هوش مصنوعی مشغول انجام کارهای پژوهشی و مهندسی بودهاند.
زمینه نگرانیهای ایمنی
این اعلامیه در شرایطی منتشر شده که برخی چهرههای شاخص صنعت هوش مصنوعی، از جمله داریو آمودی، مدیرعامل آنتروپیک، خواستار کند شدن روند توسعه این فناوری به دلیل نگرانیهای ایمنی شدهاند.
آنتروپیک در بیانیه خود تأکید کرده که باید تمام تلاش خود را برای کاهش فاصله میان دانش آزمایشگاههای پیشرو هوش مصنوعی و آگاهی عمومی بهکار گیرد.
با این حال، از این بیانیه مشخص نیست که آنتروپیک چقدر خود را به دستیابی به «خودبهبودی بازگشتی» (یعنی توانایی یک مدل هوش مصنوعی برای بهبود مستقل نسخههای بعدی خود بدون دخالت انسان) نزدیک میداند. اما سرعت افزایش نقش کلود در فرآیندهای پژوهشی، توجه ناظران این حوزه را به خود جلب کرده است.
بنا به نوشته nbcnews، این شرکت همچنین جزئیاتی از اقدامات نظارتی خود بر ایجنتها منتشر کرده تا مشخص شود رفتار نامناسب احتمالی ایجنتها با چه دقتی توسط سامانههای پایش شناسایی میشود.
