زمانی که بن گورتزل با ایجاد یک هوش عمومی مصنوعی (AGI) روی تسریع عجله بشریت به سمت تکینگی کار نمی کند، در یک گروه موسیقی جاز راک به نام جام گلکسی با روباتی به نام دزدمونا می نوازد.
این یکی از پروژه‌های جانبی متعدد اوست که طبیعتاً باعث شد تا با تماس با اعضای Pearl Jam و Heart تلاش کند و تجارت موسیقی را نمادین کند. گورتزل همچنین با جمع‌سپاری داده‌های سلامت انسان با پاداش‌های رمزی از طریق اپلیکیشنی به نام Rejuve.ai، روی تحقیقات طول عمر کار می‌کند. سپس این اطلاعات با داده‌های مطالعه حیوانات و حشرات جمع‌آوری می‌شود و با یک هوش مصنوعی تجزیه و تحلیل می‌شود تا مشخص شود کدام بخش از ژنوم‌ها می‌توانند باعث عمر طولانی‌تر ما شوند و سپس با استفاده از ژن‌درمانی تحریک شوند. او می‌گوید: «ما اکتشافات بسیار قابل توجهی در سطح دستیابی به موفقیت داشته‌ایم. اوه، و درست قبل از پایان مصاحبه یک ساعته ما، او به طور اتفاقی به عنوان کناری اشاره می کند که او همچنین در حال ایجاد یک استیبل کوین برای بازار غیرمتمرکز هوش مصنوعی خود، SingularityNET است که به یک شاخص ترکیبی از پیشرفت زیست محیطی متصل است – زیرا تطبیق آن با دلار آمریکا می تواند باعث شود. "لنگ."
پیشرفت در محیط زیست بسیار پایدار است. هرگز به جایی نمی رسد،» او اشاره می کند.
و برای دستکاری این موضوع، باید در واقع گرمایش جهانی را حل کنید.»
این دقیقاً همان نوع اظهار نظر سیاسی است که با دانش فنی بالایی که ممکن است از گورتزل انتظار داشته باشید، به نظر می رسد، که به نظر می رسد مانند یک دانشمند هیپی است که در سال 1971 به یک ماشین زمان برخورد کرد و در سال 2023 کاملاً شکل گرفت. اما فریب آن را نخورید. کلاه با طرح حیوانی، موهای بلند و طرح Electric Kool-Aid در سفر با اسید: او دانشمند درخشانی است که از سال های نوری آینده جلوتر است و با برخی از بزرگترین مفاهیمی که بشر تا به حال در نظر گرفته است دست به گریبان است. آگاهی چیست؟ چگونه زندگی مصنوعی بسازیم، و چه اتفاقی می افتد اگر ما را دوست نداشته باشد، سرکش باشد و همه را مثل اینها به اسلحه بکشد. ترمیناتور 2?
هوش عمومی مصنوعی چیست؟
گورتزل اصطلاح «هوش عمومی مصنوعی» را به عنوان راهی برای متمایز ساختن یک ماشین فکری واقعی که می‌تواند تقریباً هر چیزی را یاد بگیرد، به هوش مصنوعی که برای یک کار خاص بهینه‌سازی شده‌اند، متداول کرد، مانند رایانه Deep Blue که به طور معروف قهرمان شطرنج جهان، گری کاسپاروف را شکست داد. او آزادانه اعتراف می کند که ساختن ماشینی که قادر به یادگیری همه چیز و همه چیز باشد، خطراتی وجود دارد، از جمله اینکه چگونه خود را دوباره برنامه ریزی کند تا از هر انسانی باهوش تر شود.
گورتزل در حین غوغا در یک رستوران هندی در یک مرکز خرید شلوغ در سنگاپور می‌گوید: AGI خطرات و خطرات زیادی دارد. یکی از آنها که توجه رسانه‌ها را به خود جلب کرده است این است که AGI از بین می‌رود و بشریت را نابود می‌کند و جهان را تسخیر می‌کند. کاملا امکان پذیر است. شما نمی توانید آن را رد کنید،” او می گوید.
خطر محتمل‌تر دیگر این است که افراد خودخواه ناخوشایند از هوش مصنوعی برای اعمال طمع و کنترل خود بر دیگران استفاده کنند.
به نظر او، دولت‌ها بعید هستند که در AGI پیشرفت کنند زیرا "بیش از حد محافظه کار و احمقانه" هستند، اگرچه او خاطرنشان می کند که چین کار AGI خود را به شرکت هایی مانند Tencent و Baidu واگذار می کند. او فکر می‌کند که بخش‌های هوش مصنوعی گوگل و فیس‌بوک نیز از این خط عبور نخواهند کرد، زیرا آنها بیش از حد بر روی ایجاد معیارهای خاص هوش مصنوعی متمرکز خواهند بود، که برای تفکر خلاق مناسب نیست.
درست مانند باهوش‌ترین افراد که نمی‌خواهند صرفاً معیارهای دیگران را ارائه کنند، من فکر می‌کنم هوش عمومی مصنوعی لزوماً نمی‌خواهد تعداد کلیک‌ها را در صفحه وب دیگران به حداکثر برساند، درست است؟ باید به آن اجازه داد تا خلاقانه بازی کند."
تکینگی در حدود 1970
گورتزل در 15 سالگی دانشگاه را شروع کرد، در 18 سالگی فارغ التحصیل شد، در 22 سالگی دکترا داشت و در 23 سالگی یک خانواده جوان داشت. شاید در عصر حاضر به طور غیرعادی، او فقط یک دانشمند ریاضی یا نابغه فناوری نبود که کامپیوترهای کیت را در دهه 70 به هم لحیم می کرد. اما به همان اندازه به فلسفه، نویسندگی خلاق و موسیقی علاقه داشت.
او بیشتر دوران حرفه‌ای خود را به تدریس و تحقیق در علوم کامپیوتر، ریاضیات و علوم شناختی در دانشگاه‌های مختلف در سراسر جهان گذراند و در عین حال هر زمان که می‌توانست روی فناوری هوش مصنوعی کار می‌کرد. بنیانگذار سریالی که تمایل دارد با ایده هایش حدود یک دهه از دیگران جلوتر باشد - که در تجارت، معروف برابر با اشتباه کردن است - او روی استفاده از هوش مصنوعی برای پیش‌بینی بازارهای مالی و طول عمر کار کرده است، و همچنین سابقه‌ای به عنوان دانشمند ارشد Hanson Robotics داشته است، جایی که مغز مصنوعی خود را به ربات سوفیا داد.
گورتزل از دهه 1970 زمانی که برای اولین بار کتاب جرالد فاینبرگ را خواند، به رشد نمایی تکنولوژی فکر می کرد. پروژه پرومتئوس، که در مورد "ماشین هایی است که می توانند بهتر از مردم فکر کنند ... ماشین های فناوری نانو که از نظر میکروسکوپی کوچک هستند و ما پیری را حل خواهیم کرد." این به خوبی با مفهوم نوظهور تکینگی مطابقت داشت، یک نقطه فرضی آینده که در آن پیشرفت‌های فناوری غیرقابل کنترل و برگشت ناپذیر می‌شوند و منجر به تغییرات عظیم در تمدن بشری می‌شوند.
"بنابراین، مردم تا ابد زندگی خواهند کرد، سپس سوال این خواهد بود: ما از این فناوری‌ها برای چه استفاده می‌کنیم، مصرف‌گرایی سریع بی‌فکر، یا آیا از آن برای گسترش آگاهی استفاده می‌کنیم؟ و آنچه او [فاینبرگ] پیشنهاد کرد این است که آن را به رای گیری دموکراتیک بگذاریم.
سال‌ها بعد، زمانی که او متوجه شد که AGI در اختیار ماست، این «رای دموکراتیک» الهام‌بخشی شد تا ابتدا از فناوری منبع باز و بعداً از بلاک چین به عنوان راهی برای قرار دادن جامعه‌ای تعاونی برای مدیریت فناوری استفاده کنیم.
او می‌گوید: «آنچه در یک نقطه مشخص متوجه شدم این است که با هوش مصنوعی، باز بودن کد کافی نیست. "شما واقعا نیاز دارید که هوش مصنوعی را با حجم زیادی از داده ها آموزش دهید."
این جایی است که بلاک چین راهی برای تبدیل پردازش و داده‌های زیربنایی هوش مصنوعی غیرمتمرکز و ماهیت جمع‌سپاری و باز کردن کنترل می‌شود. و به نظر می رسد که این کار پیچیده تر از منبع باز کد است."
گورتزل در سال 2008 OpenCog را برای ساخت یک چارچوب هوش مصنوعی منبع باز و جمعی تأسیس کرد. 50 شرکت از جمله هوآوی و سیسکو از آن استفاده می کنند و به زودی برای ارتقای بزرگی به نام Hyperon آماده می شود که هدف آن افزایش 200 برابری آن است. نسخه آلفا این سه ماهه عرضه می شود و انتظار می رود سال آینده نسخه بتا آن منتشر شود.
بلاک چین اساسی است اما جالب است
برای گورتزل، فناوری بلاک چین کمی اساسی است. او آن را به‌عنوان برخی الگوریتم‌های توزیع‌شده ابتدایی اضافه شده به رمزنگاری توصیف می‌کند، اما «ترکیب جالب» سیستم‌ها را قادر می‌سازد بدون کنترل متمرکز اجرا شوند و آن را برای نیازهای او عالی می‌کند.
اگر می‌خواهید یک ماشین فکر بسازید و می‌خواهید آن را یک پارچه محاسباتی در مقیاس نانو بسازید، خیلی خوب است که این ماشین به جای کنترل از بالا به پایین، در اختیار همه باشد و هیچ‌کس.»
بلاک چین ها برای مقابله با نیازهای پردازش و حجم عظیمی از داده ها بسیار کند هستند، بنابراین قبل از توسعه AGI پیشرفت، چیزی شبیه به یک مسابقه برای مقیاس بندی مناسب بلاک چین وجود دارد. گورتزل می‌گوید که اگرچه راه‌حل‌های مقیاس‌پذیری مانند جمع‌آوری‌های دانش صفر بهتر هستند، اما به دلیل محدودیت‌های زنجیره بلوکی که تراکنش‌ها را به آن گزارش می‌دهند، هنوز پهنای باند کافی ندارند.
او SingularityNET را در سال 2017 تأسیس کرد، که هم یک بازار غیرمتمرکز برای خدمات و فناوری هوش مصنوعی و هم یک روش هماهنگی مبتنی بر بلاک چین برای محققان - یا حتی هوش مصنوعی - برای همکاری با یکدیگر است.
در حال حاضر، بر اساس اتریوم، او فکر می‌کند که تا جایی که می‌تواند روی بلاک چین به شکل فعلی‌اش پیش برود. بنابراین، زمانی که او روی پیشرفتی در AGI (یا گروه، یا ربات‌ها یا طول عمر) کار نمی‌کند، در حال کار بر روی مقیاس گسترده بلاک چین است تا توان عملیاتی مورد نیاز را به آن بدهد.
"تا زمانی که نتوانید مقیاس پذیری بلاک چین را به طور اساسی افزایش دهید، نمی توانید عملکرد درونی هوش مصنوعی را روی زنجیره قرار دهید."
هوش مصنوعی نزدیکتر از چیزی است که فکر می کنید
سال 2022 برای محصولات مبتنی بر فناوری هوش مصنوعی، از جمله برنامه‌های کاربردی زبان (GPT-3، ChatGPT)، کدنویسی (GitHub Copilot) و تولید تصویر (DALL-E و Stable Diffusion) چیزی شبیه به یک سال پیشرفت بود. بینگ حتی قصد دارد امسال با استفاده از فناوری ChatGPT در موتور جستجوی خود، سلطه جستجوی گوگل را به دست گیرد.
گورتزل فکر می‌کند که یک AGI ممکن است تا پنج سال دیگر باقی بماند و به نظر می‌رسد که پیشرفت‌ها در این زمینه در فواصل کوتاه سه یا چهار ساله در یک سری پیشرفت‌ها رخ می‌دهند.
"کامپیوتر ویژن در سال 2014 شروع شد و پس از آن ناگهان، بنگ، بنگ، بنگ، راز حل شد. پردازش زبان طبیعی… بعد از اینکه گوگل مدل Bert را ارائه کرد (در سال 2018) شما GPT-3 داشتید. احتمالاً همان قوس پیشرفت را در AGI خواهید دید. شما یک پیشرفت خواهید داشت، سپس به مدت دو سال پیشرفت زیادی خواهید داشت.
"تفاوت در پیشرفت موفقیت آمیز است، در این صورت، منجر به ماشینی می شود که می تواند با بازنویسی کد خود به پیشرفت خود ادامه دهد."
گورتزل امیدوار است پروژه‌ها و همکاری‌هایی که او به راه انداخته است، بتواند به این شکل باشد.
او می‌گوید: «اگر ما خوش شانس باشیم، در سه تا پنج سال آینده با OpenCog Hyperon که بر روی SingularityNET روی Hypercycle اجرا می‌شود، به این پیشرفت دست خواهیم یافت. "اما اگر معلوم شود که ما سس مخفی را نداریم، شخص دیگری خواهد داشت."
حیف ویتالیک دانشمند کامپیوتر نبود
راه حل Goertzel برای مقیاس بندی بلاک چین بسیار رادیکال است و شامل شارژ توربو یک زنجیره جانبی یا لایه 2 از Cardano به نام "HyperCyle" است.
این واقعاً چیزی بیش از یک زنجیره جانبی است. HyperCycle با اتریوم و سایر بلاک چین ها نیز همکاری خواهد کرد، اما ما از مفسر Plutus در آنجا استفاده خواهیم کرد، اما از شر این دفتر خلاص می شویم.
او HyperCycle آنلاین را حل «سه‌گانه بلاک چین» «غیرمتمرکز در مقابل امنیت در مقابل عملکرد» با خلاص شدن از شر دفتر کل و استفاده از الگوها و ساختارهای داده مدرن/کاملاً غیرمتمرکزتر، به علاوه کمی هوش مصنوعی و سیستم‌های شهرت توصیف کرده است.
دفتر کل در قلب فناوری بلاک چین قرار دارد، اما او می گوید دریافت هر گره در شبکه برای تکرار هر تراکنش و پردازش هر قرارداد هوشمند به طرز مضحکی ناکارآمد است.
دفتر کل بد است. اگر در مورد آن فکر می کنید، اگر به تشابه مخاطبین خود در دفترچه تلفن خود فکر می کنید، منظورم این است که دفتر کل مانند […] است که 10,000 نسخه از صفحات زرد را نگه می دارد، و شما آنها را هر بار که شخصی جدید می آید یا اگر شخصی می آید، به روز می کنید. شماره تلفن آنها را تغییر می دهد. به روز رسانی 10,000 نسخه از صفحات زرد واقعا احمقانه است.
دفعات بازدید: همچنین
در نسخه HyperCycle قیاس، به جای اینکه همه صفحات زرد را ذخیره و به روز کنند، افراد موجود در کتاب تماس شما یک کپی از دفترچه آدرس شما را ذخیره می کنند و بالعکس، با کلید خصوصی شما رمزگذاری شده است.
ما متوجه شدیم که چگونه می‌توان بلاک چین را بدون یک دفتر کل تکراری کار کرد، به طوری که تا انتها خرد کنیم. هر فردی که در بلاک چین فعالیت می کند، تاریخچه تراکنش های خود را حفظ می کند و تاریخچه تراکنش های دوستان خود و برخی از دوستان دوستان خود را حفظ می کند.
"در تمام راه به پایین، شما نیازی به یک دفتر کل ندارید - شما به جدول پایگاه داده نیاز ندارید. این چیزها خیلی متمرکز هستند.»
او می‌گوید برخی از گره‌های HyperCycle اثبات مفهوم در حال حاضر عملیاتی شده‌اند، اما راه‌اندازی در مقیاس کامل تا نیمه دوم سال 2024 اتفاق نخواهد افتاد.
ما زمان زیادی را صرف بحث در مورد مزایای مختلف رویکردهای مختلف به بلاک چین می کنیم، از رایانه اینترنتی گرفته تا Elastos و Celestia، که بیشتر آنها بالاتر از درجه دستمزد من و فراتر از توانایی دستگاه ضبط من برای ضبط دقیق در یک رستوران پر سر و صدا است.
او در پایان می‌گوید: «بنابراین، احساس می‌کنم هیچ یک از این معماری‌ها به اندازه کافی رادیکال نیستند. همه آنها خیلی به بیت کوین نزدیک شده اند."
منظورم این است که تا زمانی که همه قراردادهای هوشمند را روی هر گره اجرا می‌کنید، به شدت کند خواهد بود. اکنون، در HyperCycle، اگر یک قرارداد هوشمند را روی پنج گره اجرا کنید، حداقل پنج برابر کندتر از یک ماشین است – 10,000 برابر کندتر نیست.
پس چرا کاردانو؟
گورتزل با چارلز هاسکینسون، بنیانگذار کاردانو، دوست شده است و این زوج بر سر پروژه هایشان در آفریقا با هم ارتباط برقرار می کنند. او بر این باور است که هاسکینسون «واقعاً برای نجات دنیا آنجاست. منظورم این است که از نظر سیاسی او بیشتر از من یک آزادی خواه سرسخت است - من بیشتر یک آنارکو سوسیالیست هستم - اما او فقط برای پول درآوردن یا از بین بردن دیگران از پول آنها در این کار نیست.
اما جذابیت واقعی Cardano این است که از زبان برنامه نویسی Haskell استفاده می کند، که گورتزل از سال 1993 طرفدار آن بوده است. اینکه ویتالیک بوترین، یکی از بنیانگذاران اتریوم، با زبان برنامه نویسی قرارداد هوشمند Solidity از گاوین وود استفاده کرده، بسیار ناراحت است.
او می‌گوید: «اگر Vitalik بیشتر علم کامپیوتر می‌دانست، آنها را مجبور می‌کرد از Haskell یا F Sharp یا چیزی دیگر استفاده کنند و هک‌های بسیار کمتری از بلاک چین وجود داشت.
«اگر می‌خواهید بیشتر اقتصاد جهان را اداره کنید، تریلیون‌ها دلار بر روی برخی از سیستم‌های نرم‌افزاری معامله کنید، بهتر است آن سیستم نرم‌افزاری را به زبانی بسازید که مستعد اشکال نباشد و الگوریتم‌های شما به طور رسمی در آن قرار بگیرند. با استفاده از یک نظریه ریاضی تایید شده است. این فقط راه درستی برای انجام کارهاست.»
راه حل توقف شکاف
مهم نیست که بلاک چین چقدر سریع می شود، به محض اینکه AGI یک مرتبه باهوش تر و توانمندتر از انسان است، گورتزل می گوید که به کسی اجازه کنترل آن را نخواهد داد.
وقتی یک AGI 100 برابر باهوش‌تر از مردم است، نمی‌خواهد توسط ما کنترل شود، همانطور که ما توسط یک شامپانزه یا یک الاغ کنترل نمی‌شویم، درست است؟
سپس می‌گویم این سؤال این است که یکی از ما آن را کنترل نمی‌کند، سؤال این است: آیا با ما خوب است؟ آیا به مردم اجازه می‌دهد تا کسب و کار خود را تنظیم کنند و ابزارهای جالب و مونتاژکننده‌های نانو را برای چاپ سه بعدی همه چیزهایی که می‌خواهیم و درمان بیماری‌هایمان به ما عرضه کنند؟»
اما دوره انتقالی که AGI تقریباً همان هوش مردم است، در آن زمان همه چیز حساس تر و جالب تر است. و سوال اینجاست: آیا AGI می خواهد با مردم همکاری کند؟ یا پارانوئید است و می‌خواهد مردم را قبل از نابود کردن آن کنترل کند؟»
کودکان خود را به خوبی آموزش دهید
به نظر گورتزل، راه حل این است که به AGI در مورد مراقبت از دیگران و در مورد خلاقیت و هنر آموزش دهیم. اینجاست که دزدمونا ربات در گروهش و خواهرش گریس - که برای مراقبت از سالمندان طراحی شده است - وارد می شوند.
راهی که می‌توانید از تبدیل AGI به Skynet ترمیناتور جلوگیری کنید، این است که در وهله اول آن را به این شکل نسازید.
«البته اسکای نت در فیلم یک شبکه امنیتی کامپیوتری بود که در حال اجرا بود. این برای دفاع از خود در برابر مردم ایجاد شده است.
اما اگر اولین AGI را بسازید که با مراقبت از سالمندان و هنرهای خلاقانه و آموزش همراه با هوشمندتر شدن، آن را به سمت کمک به مردم و خلق چیزهای جالب سوق دهد. اگر اولین AGI را برای کشتن افراد بد بسازید... شاید به انجام آن کارها ادامه دهد."
"بنابراین، مفید باشد یا نه، واقعاً به این بستگی دارد که چه برنامه هایی را توسعه داده اید و برای چه چیزی انگیزه داده اید."
او بر این باور است که قرار دادن هوش مصنوعی در بدن ربات ها مفید است زیرا به جای دادن یک جهان ریاضی انتزاعی به قرار دادن آنها در دنیای واقعی کمک می کند.
هوش مصنوعی باید در مورد دنیای انسان و دنیای فیزیکی بیاموزد. تجسم در دنیا راه درستی برای انجام این کار است.»
اما هنگامی که او ربات سوفیا را به مخاطبان زیادی ارائه می‌کند، حسگرهای دیداری و شنیداری به راحتی می‌توانند غلبه کنند و هوش مصنوعی را در یک محیط پر سر و صدا و روشن گیج کنند. بنابراین، سوفیا به زودی در متاورس به نام Sophiaverse عرضه خواهد شد. پاسخ های متنی خسته کننده ChatGPT را فراموش کنید، سوفیا در یک دنیای مجازی سه بعدی تجسم یافته است و از تعامل با مردم آنجا یاد می گیرد. با این حال، او هشدار می دهد که او احتمالاً چیزهای احمقانه ای خواهد گفت.
این یک شبکه عصبی شبیه به GPT-3 و غیره دارد که امکانات قابل توجهی برای پاسخگویی به سوالات شما دارند، اما از جهاتی کاملا احمقانه هستند.
اشتراک
جذاب ترین مطالب در بلاک چین. یک بار تحویل داده می شود
در هفته است.
منبع: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/