اخلاق هوش مصنوعی و مبارزه ژئوپلیتیکی بر سر اینکه چه کسی در مسابقه دستیابی به هوش مصنوعی واقعی پیروز می شود

جهان در یک مسابقه دیوانه وار است.

قدرت های ژئوپلیتیک ادعا می کنند که برنده تمام بیکن ها را به خانه خواهد برد.

کدام نژاد به شدت در حال انجام است و به شدت دنبال می شود؟

این مسابقه هوش مصنوعی است.

شاید بهتر باشد به این به عنوان مسابقه ای برای دستیابی اشاره کنید درست هوش مصنوعی (AI)، که در حال حاضر به طور کامل به عنوان هوش مصنوعی عمومی (AGI) شناخته می شود. ما می خواهیم به نحوی به بهترین هوش مصنوعی یا AGI برسیم که با هوش انسانی قابل مقایسه باشد. ما هنوز آنجا نیستیم در واقع، با وجود انواع و اقسام تیترهای وحشیانه و گستاخانه، ما نمی دانیم که چه زمانی یا آیا به آن امتیاز بالا دست خواهیم یافت. هوش مصنوعی امروزی از نظر توانایی‌های بسیار کمتر از هوش فراگیر انسانی است، اگرچه مطمئناً راه‌های باریک‌تری وجود دارد که در آنها هوش مصنوعی هجوم‌های چشمگیری داشته است، مانند توانایی بازی شطرنج درجه یک در سطح جهانی یا انجام سایر وظایف نسبتاً محدود.

حلقه طلایی ظهور هوش مصنوعی است که هوش انسانی را با ماهیت مذهبی و عمقی شبیه به نوع بشر نشان می دهد. این جام مقدس محققان و پزشکان هوش مصنوعی است. هر از چند گاهی، ادعاهای عجیبی مبنی بر عبور از خط پایان مسابقه هوش مصنوعی وجود داشته است که من در ستون خود در این آدرس رد کرده ام. پیوند اینجا. کسانی که سعی در ایجاد اختلافات در خط پایان دارند، عموم مردم را گیج می کنند و گاهی این کار را با بی گناهی غیورانه انجام می دهند، در حالی که در مواقع دیگر انگیزه های مشکوک جدی در دست دارند. در مجموع، این ملاحظات اخلاقی هوش مصنوعی بسیار مهم و حیاتی را مطرح می کند. برای پوشش مداوم و گسترده من از اخلاق هوش مصنوعی و هوش مصنوعی اخلاقی، نگاه کنید پیوند اینجا و پیوند اینجا، فقط به نام چند.

به هر حال، شکی وجود ندارد که مسابقه هوش مصنوعی سرعتی در سراسر جهان مشتاقانه در حال انجام است. به سختی می توانید ادعای دیگری داشته باشید.

اینجوری بهش فکر کن اگر قبلاً موفق شده بودیم به هوش مصنوعی یا AGI واقعی دست یابیم، احتمال این وجود دارد که مسابقه هوش مصنوعی به طور رسمی و جهانی به عنوان موفقیت آمیز اعلام شود. من به شما اطمینان می‌دهم که توجه جهانی به چنین پیشرفت پر طنین‌انداز و زمین‌شکنی جلب خواهد شد. شما از آن مطلع خواهید شد. همه ما این کار را می کنیم. خط تیره کلاهک دیوانه AI عملاً دیگر وجود نخواهد داشت، اگرچه ممکن است نسخه ثانویه ای رخ دهد که شامل کسانی باشد که به هوش مصنوعی واقعی دست نیافته اند، با تب و تاب کار می کنند تا به عقب برسند. همچنین مسئله نگران کننده ای وجود دارد که چگونه در صورت رسیدن یا زمانی که به آنجا رسیدیم، AGI را کنترل یا مدیریت خواهیم کرد.

هیچ شخص یا نهاد یا ملتی هنوز نمی تواند به درستی تاج تولید AI یا AGI واقعی را به خود اختصاص دهد.

در همین حال، دست نوشته های عظیم و بی امان در مورد اینکه کدام ملت (یا ملت ها) در رأس گروه قرار دارند و چه کسی بیشتر پشت سر گذاشته است، در حال وقوع است. فرض این است که اگر نفر اول نباشید، در خاک رها خواهید شد. شما ضایعات باقی مانده از برندگان هوش مصنوعی را خواهید خورد. شما به طور بالقوه برای همیشه مطیع ملت یا ملت‌هایی خواهید بود که جهش اعلام شده را به سمت هوش مصنوعی یا AGI واقعی انجام می‌دهند.

به عنوان کناری سریع و برای سهولت بیان این بحث، از این پس هر زمان که بخواهم هاله هوش مصنوعی واقعی را فراخوانی کنم، از «AGI» استفاده خواهم کرد. استفاده از عبارت کمی جدیدتر «AGI» گاهی اوقات برای کسانی که عادت به استفاده از آن ندارند آزاردهنده است. همه ما با "AI" آشنا هستیم و ممکن است از دیدن مخفف "AGI" به جای آن ناراحت شوید. به من اجازه دهید توضیح دهم که چرا این به تدریج به عنوان یک روند کلامی در حال ظهور است.

بخشی از دلیلی که AGI در عرصه زبان بومی هوش مصنوعی مطرح شده است این است که صرفاً بیان "AI" اکنون به عبارتی متأسفانه تبدیل شده است. هیچ‌کس نمی‌داند که آیا هوش مصنوعی که به آن اشاره می‌کنید، نوع کم هوش مصنوعی یا نوعی تزریق هوش مصنوعی شبه پیشرفت‌کننده است، یا ممکن است اشاره‌ای به هوش مصنوعی آینده‌نگر و کاملاً مشابه انسان داشته باشد. برای مقابله با بارگذاری بیش از حد "AI" به عنوان یک عبارت کلیدی، نام AGI توسط آن دسته از افراد داخلی در حوزه هوش مصنوعی که می‌خواهند به طور خاص و خاص به هوش مصنوعی واقعی اشاره کنند، ترجیح داده شده است.

بنابراین، به طور خلاصه، ذکر من از AGI را با گفتن "هوش مصنوعی واقعی" با کالیبر قوی شبیه به هوش انسانی در نظر بگیرید، متشکرم.

بیایید یک نفس عمیق محتاطانه بکشیم و آگاهانه برخی از جنبه های مسابقه را برای رسیدن به AGI بررسی کنیم. حتی یک متا جنبه وجود دارد که باید ابتدا بیان شود. توجه داشته باشید که در مورد استفاده از تمثیل یک مسابقه فرضی یا نوعی دیگر از فعالیت های مسابقه ای به عنوان استعاره ای از مسابقه AGI کمی دل درد وجود دارد. چرا؟ من شما را به طور لحظه ای در مورد عوارض و پیچیدگی های این موضوع توضیح می دهم که چرا (بعضی ها می گویند) یک مسابقه فوتبال یا معادل آن کاملاً گمراه کننده و یک دیدگاه ساده لوحانه است.

در اینجا نکات کلیدی است که در این گفتار با شما توضیح خواهم داد:

• اگر این یک مسابقه باشد، خط پایان AGI کاملاً نامشخص به نظر می رسد
• مسابقه AGI ممکن است به یک شخص، یک نهاد یا یک ملت برود
• معیارها و نحوه مقایسه کشورها در مسابقه AGI
• مانور ژئوپلیتیک و همسویی برای مسابقه AGI
• قوانین بین المللی هوش مصنوعی و اخلاق هوش مصنوعی به عنوان داور در مسابقه AGI

شاید بخواهید کمربند ایمنی خود را ببندید در حالی که من مسابقه AGI را که به سرعت ادامه دارد را بررسی می کنم (بله، به جرات می توانم آن را یک مسابقه پیاده روی بنامم) که تقریباً همه با سرعتی سرسام آور حرکت می کنند و ظاهراً در این تلاش سوزان سر به فلک می کشند. برخی ممکن است بگویند که این مسابقه ای برای بهبود بشریت است، در حالی که برخی دیگر هشدار می دهند که این نژاد ممکن است برای همه ما عذاب مطلق باشد.

زمان خواهد شد بگویید.

اگر این یک مسابقه است، خط پایان AGI کاملاً نامشخص به نظر می رسد

خط پایان معمولاً یک مرزبندی نسبتاً قطعی است. یا به خط پایان رسیده اید یا نرسیده اید. به نظر می رسد کوتاه آمدن برای شما مفید نیست. یک دوی 400 متر المپیک را تصور کنید و اینکه آیا به‌خصوص دونده‌هایی را که اصلاً مسابقه را تمام نکرده‌اند (هرگز از خط پایان نرفته‌اند) به یاد می‌آورید یا تحسین می‌کنید. بعید.

آیا می دانیم که چه زمانی به AGI رسیده ایم به طوری که به طور منطقی همه توافق دارند که خط پایان به دست آمده است؟

در مورد مرزبندی AGI اختلاف نظرهای شدید وجود دارد.

برای مثال، فرض کنید که ما هوش مصنوعی را طراحی کرده‌ایم که به نظر می‌رسد کاملاً قادر به نشان دادن هوش انسانی باشد، اما به خودی خود شباهتی از احساس وجود ندارد (به پوشش من در مورد بحث‌های مربوط به هوش مصنوعی در اینجا مراجعه کنید. پیوند اینجا). هوش مصنوعی از نظر محاسباتی قادر است همانند هوش انسانی تقلید کند یا به نحو دیگری عمل کند. اگرچه جرقه‌ای از سرزندگی یا احساس وجود ندارد که ما آن را با انسان‌ها و دیگر موجودات زنده مرتبط کنیم. آیا این AGI به منزله رسیدن به هدفی است که فکر می‌کردیم؟

برخی مخالفت می کنند که اگر به نظر می رسید که احساس به خودی خود در این AGI پیچیده شود، مهم نیست. تا زمانی که می تواند هوش انسانی را نشان دهد، ادغام احساسات چیزی از تنوع متفاوتی است که ممکن است مایل باشیم یا نخواهیم پدید آید. Sentience به این معنا یک افزونه است.

دیگران شدیداً استدلال می کنند که تنها وسیله دستیابی به هوش انسانی در AGI تجسم یکپارچه احساسات خواهد بود. AGI و Sentience یا یکسان در نظر گرفته می شوند، یا مخلوطی از یک تجسم دوگانه غیرقابل تقلیل هستند. برای به دست آوردن AGI، باید احساسات داشته باشید.

با کنار گذاشتن این زاویه بحث، دیدگاه دیگر این است که می‌توانیم از آزمون معروف تورینگ برای ارزیابی اینکه آیا AGI به دست آمده است یا خیر، استفاده کنیم. من به طور عمیق آزمون تورینگ را پوشش داده ام پیوند اینجا. به طور خلاصه، این مفهوم شامل این است که انسان سؤالاتی را از AGI بپرسد و اگر انسان نتواند پاسخ های تولید شده توسط AGI را از پاسخ های نوع بشر تشخیص دهد، ما AGI را به عنوان توانایی نشان دادن هوش انسانی اعلام می کنیم.

مشکلات یا کاستی های زیادی وجود دارد که اغلب با آزمون تورینگ مرتبط است.

فرض کنید که انسانی که پرس و جو می کند، کار زشتی انجام می دهد و نمی تواند سؤالات کاوشگری بپرسد. یکی از نگرانی‌ها این است که بسیاری از مدل‌های زبان بزرگ (LLM) به ظاهر قدرتمند امروزی می‌توانند محتوایی را که LLM روی آن آموزش داده شده است به انسان بازگرداند (یعنی متن و رسانه‌های دیجیتال اغلب از طریق خراش در مقیاس بزرگ از اینترنت تهیه می‌شوند). به این ترتیب، یک انسان منتخب خاص که سؤالاتی از نوع معمولی می پرسد که قبلاً به آنها پاسخ داده شده است و به صورت آنلاین وجود دارند، می توانند به طور بالقوه به آسانی توسط LLM «پاسخ» داده شوند، اما این موضوع به طور قابل بحث به دلیل تجسم هوش انسانی با کالیبر AGI نیست.

ابهامات زیاد دیگه پیش میاد فرض کنید انسان قادر به درک پاسخ ها نیست. یا فرض کنید انسان خود را فریب می دهد و معتقد است که پاسخ ها همگی نمایانگر هوش انسانی هستند. من حتی این ایده غیرمستقیم توسط برخی را پوشش داده ام که تنها کاری که باید انجام دهیم این است که از هوش مصنوعی بپرسیم آیا AGI است یا حساس است، که من روشن می کنم که شکل چندان قانع کننده ای از اثبات AGI نیست. پیوند اینجا.

در نهایت، همانطور که یک فکر اضافه شد، آیا باید به طور کامل به خط پایان برسیم تا در نظر بگیریم که AGI رسیده است؟

قبلاً اشاره کردم که معمولاً کسانی را که به خط پایان نمی رسند فراموش می کنیم. این ممکن است به طور معقولی شبیه به مسابقه AGI نباشد. من معتقدم که می توان یک مورد قانع کننده ایجاد کرد که اگر ما بتوانیم به یک راه اساسی به سمت AGI دست یابیم، در حال حاضر خود را در حالت شگفتی و سود بزرگ یا دردسر بزرگ خواهیم یافت. می بینید، بسیاری از نتایج مهم و بسیار مفید می تواند توسط یک AGI تقریباً وجود داشته باشد. کوتاه آمدن آنقدر مشکل ساز نخواهد بود که یک مسابقه 400 متری را به پایان نرسانیم، به خصوص که ممکن است پایه ای حیاتی برای رسیدن به نسخه کاملتر AGI باشد (احتمالاً یک ماراتن در مقایسه).

استعاره از دستیابی به AGI که ​​یک نوع مسابقه با پا یا معادل آن است، گاهی اوقات رضایت بخش و ناکافی است.

مسابقه AGI ممکن است به یک شخص، یک نهاد یا یک ملت برود

برخی این تصور رویایی را در سر می پرورانند که AGI قرار است در حالی که پیژامه پوشیده در گاراژ کار می کند به AGI دست یابد و نتیجه آزمایش های کامپیوتری مبتکرانه دیوانه کننده ای باشد که آنها سال ها برای انجام آن زحمت کشیده اند. این استنباط کلاسیک با فناوری پیشرفته گرگ تنها است.

با عرض پوزش گزارش می دهم که این یک پیشنهاد بسیار کم شانس است.

احتمال بیشتری وجود دارد که نهادی مانند یک کسب و کار یا برخی از تیم های تحقیقاتی، شرکت کنندگان AGI باشند. یک باور قوی و غالب این است که برای رسیدن به AGI به یک روستا نیاز است. گرگ تنها منابع و بینش خود را برای رسیدن به AGI نخواهد داشت. آنها ممکن است به تلاش کمک کنند. آنها ممکن است قطعات مورد نیاز پازل را فراهم کنند. آنها قادر به جمع آوری کل کیت و کابودل نخواهند بود.

صحبت از روستاها، یکی دیگر از دیدگاه های قوی این است که این ملت ها هستند که فقط قادر به دستیابی به AGI هستند. از طریق ترکیبی از مردم، مشاغل، دانشگاهیان و سایر روش‌های موجودیت در یک دولت-ملت، AGI در نتیجه کار ترکیبی کلیت ملی به وجود خواهد آمد. سطح واحد توجه برنده در این مسابقه بر اساس دولت-ملت است، نه بر چیزی پراکنده تر، آزاد یا فردگرا.

به طور خلاصه، اگر دهکده ای در نظر گرفته شود، روستا در مقیاس ملی خواهد بود، بنابراین دولت-ملت دونده تعیین شده ای خواهد بود که از خط پایان در مسابقه AGI عبور می کند.

معیارها و نحوه مقایسه کشورها در مسابقه AGI

در نظر بگیرید که دستاورد AGI قرار است در سطح دولت-ملت استوار باشد.

برای تکرار، ما آن را به طور قطع نمی دانیم، اما به نظر یک فرض مستدل است.

پیامدهای اساس دولت-ملت را در نظر بگیرید. فرض کنید یک گرگ تنها می‌تواند ابتدا به AGI برسد و معتقد است که کار آنها فراتر از دولت-ملتی است که آنها عضوی از آن هستند. این شخص اعلام می کند که از نظر AGI ساخته شده از هیچ دولت ملی نیست. آیا ما همچنان به آن دولت-ملت اعتبار می دهیم و آیا AGI در کنترل و اختیار آن ملت خواهد بود؟

جایگزین دیگری را تصور کنید که یک شرکت بزرگ چند ملیتی ابتدا به AGI برسد. کدام ملت می تواند بگوید که AGI «چیزی» برای استفاده و استقرار آنهاست (آیا به عنوان دارایی تعبیر می شود یا به جای شخصیت حقوقی به دست می آید)؟ شاید همه کشورهایی که این شرکت در آنها وجود دارد باید اعتبار یکسانی دریافت کنند. یا شاید فقط در هر جایی که مقر رسمی از نظر جغرافیایی قرار دارد. این می تواند یک شکاف پیچیده از یک ظرف طلای واقعی باشد.

در هر صورت، عقیده عمومی عمومی این است که یک دولت-ملت تعیین کننده حیاتی برای دستیابی به AGI خواهد بود. کشوری که تحقیق و توسعه هوش مصنوعی را در تلاش‌های ملی خود تشویق می‌کند، احتمالاً زودتر از سایر کشورهایی که این کار را انجام نمی‌دهند، به AGI خواهد رسید.

یک دیدگاه غالب وجود دارد که مسابقه هوش مصنوعی یک مسابقه ملی است.

یک مسئله نگران کننده این است که چگونه می توانیم تشخیص دهیم که آیا یک ملت در مسابقه AGI از ملت دیگری جلوتر است یا عقب است.

در یک مسابقه پای معمولی، ما به راحتی می‌توانیم معیارهایی را شناسایی کنیم که می‌توان از آن‌ها برای تعیین اینکه کدام دونده خوب عمل می‌کند و کدام یک نه، استفاده کرد. سرعت دونده را می توان به راحتی محاسبه کرد. این تضمین نمی کند که آنها ابتدا به پایان می رسند، اما حداقل نویدبخش است. فاصله فیزیکی بین دوندگان و فاصله باقی مانده تا خط پایان مشخصاً معیارهای حیاتی هستند که به راحتی می توانیم آنها را اندازه گیری کنیم.

مسابقه AGI آن نوع معیارها یا اندازه گیری های مطمئن را ندارد.

ما از همه روش‌های جایگزین استفاده می‌کنیم، زیرا هیچ راه قطعی برای محاسبه اینکه خط پایان کجاست و یا چقدر از آن فاصله داریم وجود ندارد.

بیایید نگاهی به انواع معیارهایی که به طور معمول در نظر گرفته می شوند بیاندازیم. یک منبع بسیار مفید از اندازه‌گیری‌های جهانی مرتبط با هوش مصنوعی، سالانه توسط موسسه استنفورد برای هوش مصنوعی انسان محور (HAI) در دانشگاه استنفورد جمع‌آوری و منتشر می‌شود. این گزارش به صورت آنلاین به صورت رایگان در دسترس است و عنوان آخرین نسخه منتشر شده است گزارش سالانه AI Index 2022 (بر اساس داده های جمع آوری شده برای سال های 2020-2021). من به زودی برخی از نکات برجسته مقایسه های ملی که در آخرین مجموعه آنها ذکر شده است را با شما به اشتراک خواهم گذاشت.

معیارهایی که برای سنجش پیشرفت ملی و بین‌المللی در هوش مصنوعی مورد استفاده قرار می‌گیرند، معمولاً کمی از همه چیز را در بر می‌گیرند، در مواقعی که با گنجاندن سینک آشپزخانه واقعی هم مرز است.

انواع اقداماتی که معمولاً بررسی می شوند عبارتند از:

• تعداد مقالات تحقیقاتی هوش مصنوعی منتسب به یک کشور خاص
• تعداد ارجاعات ذکر شده به مقالات هوش مصنوعی یک کشور خاص
• تعداد مجلات هوش مصنوعی مستقر در یک کشور خاص
• تعداد کنفرانس های هوش مصنوعی که در یک کشور خاص برگزار می شود
• تعداد کنفرانس های هوش مصنوعی که توسط یک کشور خاص حمایت می شود
• تعداد اختراعات مربوط به هوش مصنوعی که در یک کشور خاص اعطا شده است
• تعداد استارت آپ های شرکت هوش مصنوعی در یک کشور خاص
• تعداد مشاغل هوش مصنوعی در یک کشور خاص
• تعداد مشاغل جدید هوش مصنوعی یا استخدام در یک کشور خاص
• تعداد قوانین هوش مصنوعی یا لوایح قانونی معرفی شده در یک کشور خاص
• تعداد قوانین هوش مصنوعی تصویب یا تصویب شده در یک کشور خاص
• دیگر

این نشانه های معاصر را از شاخص هوش مصنوعی HAI 2022 در نظر بگیرید:

• استنادات انتشارات هوش مصنوعی:از نظر استناد به انتشارات مخزن هوش مصنوعی، ایالات متحده با 38.6 درصد استنادات کلی در سال 2021 در صدر فهرست قرار دارد و برتری بیشتری را نسبت به اتحادیه اروپا به علاوه بریتانیا (20.1٪) و چین (16.4٪) ایجاد می کند.
• مجلات / کنفرانس های هوش مصنوعی: در سال 2021، چین همچنان از نظر تعداد نشریات، کنفرانس‌ها و مخزن‌های هوش مصنوعی پیشتاز جهان بود - 63.2 درصد بیشتر از ایالات متحده با هر سه نوع انتشار در مجموع. در این میان، ایالات متحده از نظر تعداد استنادات کنفرانس ها و مخزن ها در بین قدرت های اصلی هوش مصنوعی پیشتاز بود.
• اختراعات هوش مصنوعی: چین در حال حاضر بیش از نیمی از اختراعات هوش مصنوعی جهان را ثبت کرده و حدود 6 درصد به آن اعطا می شود، تقریباً مانند اتحادیه اروپا به علاوه بریتانیا. ایالات متحده که تقریباً تمام پتنت ها را در آمریکای شمالی ثبت می کند، این کار را با نرخ یک سوم چین انجام می دهد. در مقایسه با افزایش تعداد پتنت های اعمال شده و اعطا شده هوش مصنوعی، چین تعداد درخواست های ثبت اختراع بسیار بیشتری دارد (87,343 در سال 2021) نسبت به موارد اعطا شده (1,407 در سال 2021).
• شرکت‌های هوش مصنوعی تازه سرمایه‌گذاری شده: «داده‌های سرمایه‌گذاری بر اساس تعداد شرکت‌های جدید هوش مصنوعی در هر منطقه. برای سال 2021، ایالات متحده با 299 شرکت، چین با 119، بریتانیا با 49 و اسرائیل با 28 شرکت پیشتاز بودند.
• سرعت استخدام هوش مصنوعی:نیوزلند، هنگ کنگ، ایرلند، لوکزامبورگ و سوئد کشورهای یا مناطقی هستند که بیشترین رشد را در استخدام هوش مصنوعی از سال 2016 تا 2021 داشته اند.
• آگهی های شغلی هوش مصنوعی: در سال 2021، کالیفرنیا، تگزاس، نیویورک و ویرجینیا ایالت هایی با بیشترین تعداد آگهی های شغلی هوش مصنوعی در ایالات متحده بودند و کالیفرنیا بیش از 2.35 برابر تعداد پست های تگزاس، دومین کشور بزرگ بود. واشنگتن دی سی، بیشترین میزان آگهی های شغلی هوش مصنوعی را در مقایسه با تعداد کلی آگهی های شغلی خود داشت
• اقدام قانونی هوش مصنوعی: تجزیه و تحلیل شاخص هوش مصنوعی از سوابق قانونی در مورد هوش مصنوعی در 25 کشور نشان می دهد که تعداد لوایح حاوی "هوش مصنوعی" که به قانون تصویب شده اند از تنها 1 مورد در سال 2016 به 18 در سال 2021 افزایش یافته است. اسپانیا، بریتانیا و ایالات متحده آمریکا بالاترین تعداد لایحه های مرتبط با هوش مصنوعی را در سال 2021 تصویب کرد که هر کدام سه لایحه را تصویب کردند.

ما می‌توانیم کار سختی که در جمع‌آوری آمار دونده‌های دولت ملی برای مسابقه AGI انجام می‌شود، بسیار تحسین و قدردانی کنیم.

هر چند شکاکان در مورد استفاده از هر نوع معیاری در رقابت مسابقه AGI کمی سر و صدا دارند.

سوال مهم این است که آیا می‌توانید هر نوع خط مستقیمی را از تعداد مقالات هوش مصنوعی یا کنفرانس‌های هوش مصنوعی در یک کشور خاص تا دستیابی به AGI ترسیم کنید. همین امر در مورد تعداد مشاغل هوش مصنوعی، تعداد شرکت های هوش مصنوعی و تعداد زیادی از معیارهای دیگر گفته می شود. ممکن است این شمارش ارتباط چندانی با دستیابی به AGI نداشته باشد. بحث این است که این معیارها بیشتر گرما هستند تا نور.

بحث مخالف این است که ما باید تلاش کنیم و اندازه گیری کنیم که کجا هستیم و به کجا می رویم. به نظر نمی رسد که سر خود را در شن و ماسه قرار دهید تا ارزیابی کنید که آیا ما به سمت AGI حرکت می کنیم یا شاید دورتر از AGI. امید است و به طور کلی فرض بر این است که هر چه انرژی و توجه بیشتر به پیشرفت در هوش مصنوعی باشد، به AGI نزدیکتر خواهیم شد. این معیارها بهترین کاری است که می‌توانیم انجام دهیم تا بفهمیم چقدر انرژی و توجه در مسابقه AGI تخصیص و مصرف می‌شود.

دور و بر که می رود.

هر یک از معیارها به خودی خود نیز می توانند در مورد سر ضرب شوند.

به عنوان مثال، تعداد قوانین قانونی یا لوایح مربوط به هوش مصنوعی را در نظر بگیرید.

شما می‌توانید ادعا کنید که اگر قانون‌گذاران بر قوانین مرتبط با هوش مصنوعی تمرکز می‌کنند، این نشانه خوبی است که ملت با هوشیاری اهمیت هوش مصنوعی و پیامدهای اجتماعی را که هوش مصنوعی به چه سمتی هدایت می‌کند، می‌پذیرد. می توان موردی را ایجاد کرد که این نشان می دهد که تلاش های زیادی برای پیشرفت هوش مصنوعی در آن کشور خاص در حال انجام است. چرا برای وضع قوانین هوش مصنوعی به زحمت می افتید مگر اینکه هوش مصنوعی به طور قابل توجهی به عنوان یک عنصر نمایشی در کشور شما رشد کرده و در حال ظهور باشد؟

به این ترتیب، کشورهایی که قوانین جدید هوش مصنوعی را منتشر می کنند به عنوان نشانه ای از پیشرفت AGI تفسیر می شوند که به خوبی در آن کشور در حال انجام است.

برخی از منتقدان ادعا می‌کنند که قوانین جدید پیشنهادی در مورد هوش مصنوعی تلاش‌های هوش مصنوعی را در هر کشور خاصی خفه می‌کند. قانونگذاران و رهبران سیاسی قرار است به پای خود شلیک کنند. قوانین به‌طور زودهنگام سایه‌ای تیره بر تلاش‌های هوش مصنوعی در حال انجام در آن کشور خاص خواهند گذاشت. شیرآلات پیشرفته هوش مصنوعی با مسدود شدن موی قانونی مسدود می شود و سرعت پیشرفت AGI در آن کشوری که قانون هوش مصنوعی را اعلام می کند، به شدت کاهش می یابد. در این میان، کشورهای دیگری که آن نوع قوانین هوش مصنوعی را تصویب نمی کنند، بی وقفه ادامه خواهند داد. انگار تصمیم گرفتید وزنه های سربی را روی دونده ای که قبلاً در پیست 400 متری است قرار دهید. اگر قصد کمک به آنها و سرعت بخشیدن به آنها را داشتید، دقیقا برعکس عمل کرده اید.

اوه، در پاسخ می‌گویم، تصویب قوانین هوش مصنوعی بیشتر شبیه به این است که مطمئن شویم هیچ مانع غیرضروری پیش روی دونده وجود ندارد. قوانین به همان معنا راهنمایی می کنند که خطوط در مسیر مسابقه وجود دارد تا دونده را به آرامی در مسیر درست حرکت دهد. بدون آن خطوط رنگ آمیزی شده، دونده ها ممکن است غافلگیر شوند. قوانین جدید هوش مصنوعی باعث می شود که آنها به طور هماهنگ به سمت یک نتیجه مطلوب گام بردارند. کشورهایی که از نظر قوانین جدید هوش مصنوعی این کار را انجام نمی دهند، دوندگان خود را در هر جهت وحشی می بینند، از جمله احتمالاً به طور کامل از مسیر خارج می شوند و به کسانی که بیش از خود مسابقه AGI بی گناه هستند آسیب می رسانند.

همچنین قوانین مرتبط با هوش مصنوعی «پنهان» وجود دارد که برخی آن‌ها را در نظر می‌گیرند و در عین حال برخی دیگر را به عنوان بخشی از این معیارها به حساب نمی‌آورند (در هنگام تلاش برای مقایسه تعداد، یک آشفتگی ایجاد می‌کند).

به عنوان مثال، اگر کشوری قانونی در مورد وسایل نقلیه خودران مانند خودروهای خودران وضع کند، آیا شما آن را به عنوان قانون هوش مصنوعی به حساب می آورید؟ برای روشن شدن یک وسیله نقلیه خودمختار مانند یک خودروی خودران کاملاً خودمختار، یک سیستم رانندگی با هوش مصنوعی وجود دارد که هسته اصلی قابلیت‌های بدون راننده است (به پوشش من در اینجا مراجعه کنید. پیوند اینجا). با توجه به هوش مصنوعی درگیر، هر قانونی در مورد وسایل نقلیه خودران می تواند به طور منطقی به عنوان قوانین اساساً هوش مصنوعی استدلال شود. از سوی دیگر، ممکن است به طور متقاعدکننده ای ادعا کنید که قانون در مورد وسیله نقلیه خودران است و به خودی خود در مورد هوش مصنوعی نیست، بنابراین در شمارش قوانین خاص هوش مصنوعی به حساب نمی آید.

به هم ریخته است.

همه این حیرت در مورد معیارها ممکن است باعث شود که در میان دیدگاه های مخالف قطبی در مورد این ملاحظات سنگین شانه های خود را بالا بیندازید. همانطور که ممکن است مشهود باشد، معیارها تقریباً همیشه در معرض تفسیرهای متفاوت در مورد معنای آنها و نحوه تجزیه و تحلیل مناسب وضعیت یک کشور در مورد AGI هستند.

مانور ژئوپلیتیک و همسویی برای مسابقه AGI

کدام کشورها در مسابقه AGI جلوتر هستند؟

کدام ملت ها عقب افتاده اند؟

معیارهای ذکر شده سعی می کنند نشان دهند که هر یک از دوندگان در حال حاضر کجا هستند. یک فرض اساسی این است که اگر معیارها نشانه مناسبی از موقعیت یابی جستجوی AGI را نشان دهند، این موقعیت های قطب مختلف ممکن است در طول زمان ثابت بمانند. البته، واقعیت این است که منافع و توجه ملی می تواند در طول مسیر پر دست انداز به سمت AGI افزایش یابد یا کاهش یابد. ممکن است عاقلانه ترین انتظار را داشته باشید که در موقعیت یابی تغییراتی داشته باشید.

یکی از ملاحظات مهم این است که ملت ها واقعاً به تنهایی در این مسابقه نیستند.

کشورها احتمالاً باتوم را بین یکدیگر به این سو و آن سو می‌دهند. مسابقه AGI گاهی اوقات دارای یک یا چند کشور است که با خوشحالی دست در دست هم کار می کنند. گاهی اوقات این کار با احتیاط انجام می شود نه با شادی دوستانه. در موارد دیگر، کشورها ممکن است از یکدیگر خودداری کنند. در هر لحظه از زمان، وضعیت مسابقه می تواند کاملاً متفاوت از چند قدمی قبل باشد، به علاوه می تواند در چند قدمی آینده کاملاً متفاوت باشد.

این نکته را در گزارش HAI AI Index 2022 در مورد همکاری های بین کشوری در نظر بگیرید: «علیرغم افزایش تنش های ژئوپلیتیکی، ایالات متحده و چین بیشترین تعداد همکاری های بین کشوری را در نشریات هوش مصنوعی از سال 2010 تا 2021 داشتند که از سال 2010 پنج برابر شده است. همکاری بین دو کشور 2.7 برابر بیشتر از بریتانیا و چین منتشر شد که دومین رتبه در فهرست است.

بدبین ها می گویند که شاید استفاده از همکاری های متقابل گاهی اوقات به عنوان یک نیرنگ انجام می شود. یک ملت ممکن است آشکارا ادعا کند که در حال همکاری متقابل هستند، به نظر می رسد که این کار را انجام می دهند، در عین حال در اعماق وجود آنها بهترین پیشرفت AGI خود را یک راز ملی پنهان نگه می دارند. شاید این کار برای خنثی کردن پیشرفت کشور متقابل انجام شود. شاید این کار برای اطمینان از عدم توزیع ناخواسته سس مخفی انجام شود. همه نوع دلایل ممکن است.

در دنیای آنلاین دیجیتال مدرن امروزی، تلاش برای پنهان نگه داشتن بینش های AGI می تواند کار سختی باشد. میل شدید به کشف یا اختراع AGI یک جذابیت قانع‌کننده است که می‌تواند توسعه‌دهندگان و محققان AGI را ترغیب کند تا آشکارا آخرین کار خود را به اشتراک بگذارند. ملت‌ها می‌توانند متوجه شوند که تلاش برای محدود کردن چنین اشتراک‌هایی بسیار سخت‌تر از آن چیزی است که به نظر می‌رسد، و احتمالاً بسیار سخت‌تر از روزهای گذشته است که همه چیز مبتنی بر کاغذ بود و به اسناد فیزیکی در حال حرکت در سراسر جهان نیاز داشت.

همانطور که در گزارش 2022 HAI AI Index ذکر شده است، حرکت به سمت منبع باز مطمئناً تاکید معاصر برای بسیاری از آخرین تحقیقات AI و AGI بوده است: «هر سال، هزاران و هزاران نشریه AI در منبع باز منتشر می شوند، چه در کنفرانس ها یا در وب سایت های اشتراک فایل. محققان آشکارا یافته های خود را در کنفرانس ها به اشتراک خواهند گذاشت. سازمان‌های دولتی تحقیقات هوش مصنوعی را که به منبع باز ختم می‌شود، تأمین مالی خواهند کرد. و توسعه دهندگان از کتابخانه های نرم افزاری باز که به صورت رایگان در دسترس عموم هستند، برای تولید برنامه های کاربردی هوش مصنوعی پیشرفته استفاده می کنند. این گشودگی همچنین به ماهیت متقابل و به هم پیوسته تحقیق و توسعه هوش مصنوعی مدرن در سطح جهانی کمک می کند.

در مجموع، ملت ها به طور کلی در حال اشتراک هستند و در عین حال ممکن است تنها بخشی از دست خود را نشان دهند. کشورهای دیگر ممکن است این کار را به اشتراک نگذارند یا فقط تظاهر به انجام آن کنند. برخی از کشورها به سختی تلاش می کنند تا آنچه را که در داخل کشورشان می دهند در مقابل معلق کردن، بسنجند. و غیره.

من ماهیت این حرکت های ملی را اینگونه توصیف کرده ام:

• هوش مصنوعی ملت تنها (سعی می کند خود به خود ادامه دهد)
• ملت یک طرفه هوش مصنوعی (می گیرد، نمی دهد)
• ملت باقی مانده هوش مصنوعی (آنچه را که می تواند از دیگران می گیرد)
• هوش مصنوعی ملت اشتراک گذاری باز (به اشتراک گذاری افتخار می کند)
• AI Hollow-sharing Nation (کاذب در اشتراک گذاری)
• ملت اتحاد هوش مصنوعی (تلاش برای ایجاد اتحاد تا آنجا که می تواند)
• هوش مصنوعی ملتی که در بازی نیست (جستجوی AGI یک اولویت ملی نیست)
• هوش مصنوعی ملت تقلب (مهندسی معکوس یا دزدی یواشکی از کشورهای دیگر)
• دیگر

یک ملت می تواند در یک زمان در بیش از یکی از آن سطل ها باشد.

یک ملت می تواند برای مدتی در یکی از آن سطل ها باشد، از سطل خارج شود و احتمالاً بعداً دوباره به داخل برود.

خواسته‌ها و توجه دولت-ملت به جستجوی AGI یک روند پویایی است که مطمئناً ادامه خواهد داشت و هدف متحرکی خواهد بود که کدام کشور در کجای مسابقه قرار دارد، و برای فهمیدن این موضوع به یک چشم دائمی نیاز است. جایی که همه بازیکنان در یک لحظه معین در زمان قرار می گیرند.

قوانین بین المللی هوش مصنوعی و اخلاق هوش مصنوعی به عنوان داور در مسابقه AGI

در ستون‌های قبلی، من تلاش‌های ملی و بین‌المللی مختلف برای ایجاد و وضع قوانین مربوط به هوش مصنوعی را پوشش داده‌ام. پیوند اینجا و پیوند اینجا، مثلا. من همچنین اصول و رهنمودهای مختلف اخلاق هوش مصنوعی را که کشورهای مختلف شناسایی و پذیرفته اند پوشش داده ام، از جمله تلاش سازمان ملل متحد مانند مجموعه اخلاق هوش مصنوعی یونسکو که نزدیک به 200 کشور آن را پذیرفته اند. پیوند اینجا.

در اینجا یک لیست کلیدی مفید از معیارها یا ویژگی های هوش مصنوعی اخلاقی در رابطه با سیستم های هوش مصنوعی است که قبلاً از نزدیک بررسی کرده ام:

• شفافیت
• عدالت و انصاف
• عدم سوء استفاده
• مسئوليت
• حریم خصوصی
• سود رسانی
• آزادی و خودمختاری
• اعتماد
• پایداری
• کرامت
• اتحاد

این اصول اخلاقی هوش مصنوعی قرار است با جدیت توسط توسعه دهندگان هوش مصنوعی، همراه با آنهایی که تلاش های توسعه هوش مصنوعی را مدیریت می کنند، و حتی آنهایی که در نهایت سیستم های هوش مصنوعی را انجام می دهند، مورد استفاده قرار گیرد.

همه ذینفعان در طول چرخه عمر توسعه و استفاده هوش مصنوعی در محدوده رعایت هنجارهای تثبیت شده هوش مصنوعی اخلاقی در نظر گرفته می شوند. این نکته مهمی است زیرا فرض معمول این است که «فقط کدنویس‌ها» یا کسانی که هوش مصنوعی را برنامه‌ریزی می‌کنند، مشمول رعایت مفاهیم اخلاق هوش مصنوعی هستند. همانطور که قبلاً در اینجا تأکید شد، برای ابداع و بکارگیری هوش مصنوعی به یک روستا نیاز است، و برای آن کل دهکده باید به اصول اخلاقی هوش مصنوعی آشنا باشد و از آن پیروی کند.

بیایید تأثیر و ماهیت حیاتی قوانین بین‌المللی هوش مصنوعی و اعلامیه‌های بین‌المللی احکام اخلاقی هوش مصنوعی را در مسابقه AGI در نظر بگیریم.

کشورهایی که به سمت AGI تلاش می کنند ممکن است این کار را رها کرده و متوجه شوند که به سمت برخی از خطرات وجودی رایج رایج AGI منحرف می شوند. امید این است که با وضع قوانین بین المللی هوش مصنوعی و قوانین بین المللی اخلاق هوش مصنوعی، کشورها به سمت هدایت شوند. هوش مصنوعی برای خوب و دور از هوش مصنوعی برای بد.

طبق قیاس مسیر مسابقه ما، آن قوانین هوش مصنوعی و ملاحظات اخلاقی هوش مصنوعی مانند تلاش برای جلوگیری از رفتن دوندگان به خارج از پیست است. در مسابقه AGI وسوسه های بسیار زیادی برای استفاده از میانبرها وجود دارد. این میان‌برها می‌تواند یک کشور را به ظاهر زودتر به مسیر خط پایان برساند، اگرچه همزمان آن کشور و سایر کشورها را در معرض خطر بی‌مورد قرار دهد. یک مثال ظریف اما گویا شامل هوش مصنوعی با کاربرد دوگانه است که من در آن بررسی کرده ام پیوند اینجابه موجب آن یک پیشرفت هوش مصنوعی به آسانی با تلاش زیاد از هدف داشتن خیر به ایجاد بدی فاجعه‌آمیز تغییر می‌کند.

می توانید ادعا کنید که قوانین بین المللی هوش مصنوعی و اخلاق بین المللی هوش مصنوعی مانند داوران یا داوران هستند.

یک فرض این است که این مکانیسم‌های حقوقی و اخلاقی که در سطح بین‌المللی طراحی شده‌اند، مسابقه AGI را در یک سطح یکنواخت‌تر نگه می‌دارند. مسئله این است که آیا کشورهای خاصی تصمیم می گیرند به داوران توجه کنند یا داوران، موضوع متفاوتی است. به طور مشابه، یک سوال آزاردهنده وجود دارد که چگونه آن مقامات می توانند جریمه یا مشوق هایی را برای نگه داشتن دوندگان در مسیر درست ارائه کنند. این احتمال وجود دارد که کشورها هر کاری که می خواهند انجام دهند، برای این کار ممکن است کشورهای دیگر وزن خود را برای تقویت حمایت از قانون شکنی خارج از مسیری که برخی کشورها ملزم به انجام آن هستند تغییر دهند.

نتیجه

لویی پاستور، شیمیدان و میکروبیولوژیست افسانه ای، این جمله معروف را می گوید: «علم هیچ کشوری را نمی شناسد، زیرا دانش متعلق به بشریت است و مشعلی است که جهان را روشن می کند. علم بالاترین تجسم ملت است، زیرا آن ملت اولین خواهد ماند که دورترین آثار فکری و هوشمندی را حمل می کند.

آیا می توانیم بگوییم که دستیابی به AGI کشوری نمی شناسد و AGI متعلق به تمام بشریت خواهد بود؟

یا ملتی که برای اولین بار به AGI می رسد، صاحب آن خواهد شد، مست از قدرت مذموم می شود و قدرت دیوانه می شود؟

برای کسانی از شما که دوست دارید کمی در این معمای خاص بچرخید، در نظر بگیرید که AGI ممکن است به خودی خود نوعی دستیابی باشد که ضرب المثل مار در چمن است. کاشف مار ممکن است اولین کسی باشد که مارگزیده می شود. اول بودن خطرات خودش را دارد.

عبور از خط پایان در AGI لزوما آنطور که برخی فکر می کنند جشن و بی خیالی نخواهد بود. همچنین استفاده از AGI لزوما آسان نخواهد بود. برخی ممکن است استدلال کنند که کنار آمدن با AGI تقریباً غیرممکن است زیرا AGI ظاهراً دارای حیله گری و نبوغ مشابهی است که نوع بشر دارد. ملت‌ها باید توجه داشته باشند که برای رسیدن به چه چیزی تلاش می‌کنند و نتیجه آن چه خواهد بود، از قبل این کار را انجام دهند و غافلگیر نشوند. آنها ممکن است یک لانه هورنت در صندوق گنجینه ملی خود داشته باشند.

همانطور که پاستور اظهار داشت: "بخت و اقبال به ذهن آماده کمک می کند."