دانشمند برجسته علوم رایانه: چتجیپیتی هرگز مانند انسان فکر نخواهد کرد
در آن زمان، بسیاری از دانشمندان معتقد بودند که هوش انسانی میتواند مستقل از بدن وجود داشته باشد و بنابراین به عنوان نرمافزاری بر روی یک رایانه دیجیتال بازآفرینی شود.
دنیگ همچنین ایده هوش ماشینی را که از طریق بازی تقلید (که اکنون به عنوان آزمون تورینگ شناخته میشود) نشان داده شود، به چالش میکشد.
به گزارش ایتنا و به نقل از SciTechDaily، بر اساس استدلال دنیگ، سیستمهای هوش مصنوعی که هماکنون در حال توسعه هستند، بعید است به هوش سطح انسانی معروف به هوش عمومی مصنوعی دست یابند و در عوض ممکن است بدون هرگز مانند انسان فکر کردن، خطرات جدی ایجاد کنند.
مرکز ثقل استدلال دنیگ بر مفهوم «دانش نهفته» استوار است. این مفهوم به حجم عظیمی از درک انسانی اشاره دارد که افراد نمیتوانند به طور کامل آن را در کلمات بیان کنند یا به نمادهایی تبدیل نمایند که ماشین بتواند پردازش کند.
دنیگ پنج شکل گسترده از دانش نهفته را توصیف میکند که به گفته او «از یادگیری ماشین میگریزند»؛ شامل عقل سلیم، تعاملات روزمره با مردم و محیط، احساسات و ادراکات، مهارتهای عملی و پیشینه فرهنگی و تاریخی مشترک جوامع. پژوهشگران دههها تلاش کردهاند عقل سلیم را به شکلی ثبت کنند که رایانهها بتوانند از آن استفاده کنند.
از دههٔ ۱۹۸۰، پروژه جاهطلبانه سایک به دنبال ساخت پایگاه داده عظیمی از حقایق عقل سلیم بود. پس از ۴۰ سال کار، این پروژه شامل ۲۵ میلیون مدخل بود، اما با این گنجینه عظیم نیز نتوانست زمینهای از عقل سلیم کافی برای هوشمند کردن سیستمهای خبره ایجاد کند.
مهارت عملی مانع بزرگ دیگری است که دنیگ به آن اشاره میکند. او میگوید: «مهارتهای عملکردی ما در هزاران حوزه قابل انتقال به ماشینها نیستند».
موسیقی نمونهای روشن از این تفاوت است: یک نوازنده ویولن virtuoso میتواند موسیقی زیبا بنوازد اما نمیتواند به یک شاگرد توصیف کند که چگونه آن را تولید کند.
حتی اگر یک ربات بتواند انسانهای ماهر را مشاهده و تقلید کند، فاقد بدن بیولوژیکی است و نمیتواند درک کند که نوازنده هنگام اجرای موسیقی زیبا چه احساسی دارد. دنیگ مانع اصلی را «مسئله بازنمایی» مینامد. رایانهها تنها زمانی میتوانند محاسبات را انجام دهند که دادهها و دستورالعملها به اشکال فیزیکی قابل تشخیص کدگذاری شوند، اما دانش نهفته به راحتی به چنین قالبی تبدیل نمیشود.
به گفتهٔ دنیگ، «پشت هر کلمه، چاهی عمیق از دانش نهفته وجود دارد که به آن معنا میبخشد. مدلهای زبانی بزرگ مانند چتجیپیتی، کلود و جمینی تنها کلمات را دستکاری میکنند و نمیتوانند معنای آنچه را میگویند بدانند یا درک کنند».
دنیگ همچنین بر اهمیت زمینه یا شرایط پیرامونی تأکید میکند که به کلمات و اعمال انسانی معنا و هدف میبخشد. فرهنگ نیز چالش مرتبط دیگری را ایجاد میکند که شامل ارزشها، هنجارهای اجتماعی و روابط قدرت است.
او اظهار میدارد که مقیاسسازی مدلهای زبانی بزرگ با شبکههای عصبی بزرگتر، این مشکل را حل نخواهد کرد. این شکاف میتواند پیامدهای بزرگی برای ایمنی هوش مصنوعی داشته باشد.
اگر ماشینها نتوانند زمینه ناگفته پشت دستورالعملهای انسانی را درک کنند، دنیگ هشدار میدهد که همسوسازی قابل اعتماد رفتار آنها با اهداف انسانی ممکن است غیرممکن باشد.
به گفتهٔ او، «از طریق اتوماسیون هوش مصنوعی، شبکههای عامل ماشینها به احتمال زیاد هوش ماشینی خود را توسعه خواهند داد که به سطح هوش عمومی انسانی نمیرسد، اما همچنان قادر به ایجاد مشکلات جدی برای انسانهاست. این تهدید بزرگتر از تسلط ماشینهای فوقهوشمند است».
در دیدگاه دنیگ، فوریترین خطر، یک ماشین فوقهوشمند نیست که از انسانیت پیشی بگیرد، بلکه شبکهای از سیستمهای کمهوشتر است که به روشهای قدرتمند، غیرقابلپیشبینی و بالقوه مضر عمل میکند.
