ویتالیک بوترین میگوید که آخرین راه حل برای "کند کردن" هوش مصنوعی فوق هوشمند خطرناک، محدود کردن توان محاسبات جهانی برای یک یا دو سال است.
ویتالیک بوترین، بنیانگذار Ethereum، اعلام کرده است که یک «وقف موقت» برای قدرت محاسبات جهانی میتواند راهی برای «خرید زمان بیشتر برای بشریت» در مواجهه با هوش مصنوعی فوقهوشمند باشد که ممکن است آسیبزا باشد.
بوترین در یک پست بلاگ در ۵ ژانویه که به پست قبلی خود در نوامبر ۲۰۲۳ درباره ایده «شتابگرایی دفاعی» یا d/acc اشاره میکرد، گفت که هوش مصنوعی فوقهوشمند ممکن است به اندازه پنج سال دیگر به واقعیت نزدیک باشد و هیچ تضمینی وجود ندارد که نتیجه آن مثبت باشد.
بوترین میگوید یک «وقف نرم» در تجهیزات سختافزاری در مقیاس صنعتی میتواند گزینهای برای کند کردن توسعه هوش مصنوعی باشد، کاهش قدرت محاسبات جهانی تا ۹۹٪ برای ۱ تا ۲ سال تا «زمان بیشتری برای آمادگی بشریت» خریداری شود.
هوش فوقهوشمند به مدلی از هوش مصنوعی نظری اشاره دارد که به طور معمول بسیار باهوشتر از باهوشترین انسانها در تمامی زمینههای تخصص است.
بسیاری از مدیران فناوری و پژوهشگران نگرانی خود را از هوش مصنوعی اعلام کردهاند؛ بهطوری که بیش از ۲۶۰۰ نفر در نامهای در ماه مارس ۲۰۲۳ برای توقف توسعه هوش مصنوعی به علت «خطرات عظیم برای جامعه و بشریت» خواستار توقف شدند.
بوترین خاطرنشان کرد که پست ابتدایی خود را که d/acc را معرفی میکرد فقط به «دعوتهای مبهم به عدم ساختن انواع خطرناک هوش فوقهوشمند» اشاره داشت و تمایل داشت تا اندیشههای خود درباره نحوه مقابله با شرایطی را به اشتراک بگذارد که در آن «خطر هوش مصنوعی بالاست.»
با این حال، بوترین گفت که تنها در صورتی از یک وقف نرم سختافزاری حمایت خواهد کرد که به این باور برسد که چیزی «قویتر» از قوانین مسئولیت نیاز است که بدین معنی است که کسانی که از مدلهای هوش مصنوعی استفاده، اجرا یا توسعه میدهند، میتوانند برای خسارات ایجاد شده توسط این مدلها تحت تعقیب قانونی قرار بگیرند.
او پیشنهادات برای یک وقف سختافزاری شامل یافتن مکان چیپهای هوش مصنوعی و نیاز به ثبت آنها را مطرح کرد، اما پیشنهاد داد که سختافزار هوش مصنوعی در مقیاس صنعتی میتواند با چپی مجهز شود که تنها در صورتی اجازه به ادامه فعالیت میدهد که سه امضای نهادهای بینالمللی بزرگ را هر هفته دریافت کند.
بوترین نوشت: «این امضاها به دستگاه خاصی وابسته نخواهند بود (در صورت تمایل، حتی میتوانیم نیاز به اثبات بدون دانایی که بر روی بلاک چین منتشر شده باشد را اضافه کنیم)، پس همهچیز یا هیچچیز خواهد بود.» هیچ راه عملی برای اجازه دادن به یک دستگاه برای ادامه فعالیت بدون اجازه به همه دستگاههای دیگر وجود ندارد.
چشمانداز هوش مصنوعی
ایده d/acc که بوترین از آن پشتیبانی میکند، برای رویکردی محتاطانه در توسعه فناوری در مقایسه با شتابگرایی مؤثر یا e/acc است که به تغییرات بیحد و مرز و بیقیود فناوری فشار میآورد.