چرا هوش مصنوعی (AI) خطر انقراض انسان را به همراه دارد؟

در مرزهای فناوری، تکامل هوش مصنوعی (AI) همچنان به نوآوری های خارق العاده ادامه می دهد. با این حال، به طور همزمان روایتی را باز می کند که مملو از دلهره هایی درباره انقراض بشریت است. رویاپردازان هوش مصنوعی مانند سام آلتمن، سر نیزه OpenAI، و جفری هینتون، که در سطح جهانی به عنوان "پدرخوانده" هوش مصنوعی شناخته می شود، به صراحت این ترس را بیان کرده اند.

با افشای فاجعه بالقوه، نامه ای سرگشاده از مرکز ایمنی هوش مصنوعی، که توسط بیش از 300 امضاکننده محترم تأیید شده است، تهدید وجودی هوش مصنوعی را آشکار کرده است. با این حال، اینکه چگونه این شگفتی انسان ساخته می تواند به نابودی بشریت تبدیل شود تا حدودی مبهم است.

هوش مصنوعی خطر انقراض انسان را به همراه دارد

به گفته دن هندریکس، مدیر مرکز ایمنی هوش مصنوعی، هوش مصنوعی می‌تواند راه‌های زیادی را برای خطرات در مقیاس جامعه ایجاد کند. سوء استفاده از هوش مصنوعی توسط نهادهای بدخیم یکی از این سناریوها را ارائه می دهد. 

حتی در جامعه هوش مصنوعی یک تصور غلط بسیار رایج وجود دارد که تنها تعداد انگشت شماری از محکومان وجود دارند. اما، در واقع، بسیاری از مردم به طور خصوصی در مورد این چیزها ابراز نگرانی می کنند.

نیروهای بدخواه را تصور کنید که از هوش مصنوعی برای ساخت سلاح های زیستی با مرگباری فراتر از همه گیری های طبیعی استفاده می کنند. مثال دیگر راه اندازی هوش مصنوعی سرکش با هدف آسیب گسترده است.

اگر یک سیستم هوش مصنوعی دارای هوش یا توانایی کافی باشد، می تواند در سراسر جامعه ویرانی ایجاد کند.

هندریکس افزود: «بازیگران مخرب می‌توانند به عمد هوش مصنوعی سرکشی را منتشر کنند که فعالانه تلاش می‌کند به بشریت آسیب برساند.

با این حال، این فقط یک تهدید کوتاه مدت نیست که کارشناسان را نگران می کند. از آنجایی که هوش مصنوعی در جنبه های مختلف اقتصاد نفوذ می کند، واگذاری کنترل به فناوری می تواند به طور بالقوه منجر به مشکلات طولانی مدت شود. 

این وابستگی به هوش مصنوعی می‌تواند «خاموش کردن آن‌ها» را مختل‌کننده و غیرقابل تصور کند. در نتیجه، به خطر انداختن سلطه بشریت بر آینده اش.

استفاده نادرست و پیامدهای گسترده آن

همانطور که سام آلتمن هشدار داد، توانایی هوش مصنوعی برای ایجاد متن، تصاویر و ویدیوهای قانع کننده می تواند منجر به مشکلات قابل توجهی شود. در واقع، او معتقد است که "اگر این فناوری اشتباه پیش برود، ممکن است کاملاً اشتباه شود."

به عنوان مثال، تصویری جعلی را در نظر بگیرید که به دروغ یک انفجار مهیب در نزدیکی پنتاگون را نشان می دهد که در رسانه های اجتماعی دست به دست می شود. این منجر به رکود موقتی در بازار سهام شد زیرا بسیاری از حساب‌های رسانه‌های اجتماعی، از جمله چندین مورد تأیید شده، این عکس فریبنده را در عرض چند دقیقه منتشر کردند و بی‌نظمی را تشدید کردند. 

چنین سوء استفاده ای از هوش مصنوعی به پتانسیل این فناوری برای انتشار اطلاعات نادرست و برهم زدن هماهنگی اجتماعی اشاره دارد. الیزابت رنیریس، محقق ارشد مؤسسه اخلاق در هوش مصنوعی آکسفورد، اظهار داشت که هوش مصنوعی می تواند "افزایش تصاعدی در حجم و انتشار اطلاعات نادرست ایجاد کند، در نتیجه واقعیت را شکسته و اعتماد عمومی را از بین ببرد."

روند نگران کننده دیگر ظهور هوش مصنوعی "توهم آمیز" است. این یک پدیده ناراحت کننده است که در آن هوش مصنوعی اطلاعات اشتباه و در عین حال به ظاهر قابل قبولی را منتشر می کند. 

این نقص که در حادثه اخیر مربوط به ChatGPT نشان داده شد، می‌تواند اعتبار شرکت‌هایی را که از هوش مصنوعی استفاده می‌کنند به چالش بکشد و گسترش اطلاعات نادرست را تداوم بخشد.

فرسایش مشاغل و انفجار نابرابری

پذیرش سریع هوش مصنوعی در صنایع مختلف سایه طولانی و نگران کننده ای را بر بازار کار می اندازد. با تکامل فناوری، حذف بالقوه میلیون ها شغل به یک نگرانی مبرم تبدیل شده است.

اخیر بررسی فاش کرد که از هر ده آمریکایی شش نفر معتقدند استفاده از هوش مصنوعی در محیط کار به طور قابل توجهی بر کارگران در 20 سال آینده تأثیر می گذارد. حدود 28 درصد از پاسخ دهندگان فکر می کنند استفاده از این فناوری بر آنها تأثیر شخصی خواهد گذاشت و 15 درصد دیگر معتقدند که "هوش مصنوعی بیشتر از کمک به آنها آسیب می زند."

افزایش در تصمیم گیری خودکار ممکن است به افزایش تعصب، تبعیض و طرد شدن کمک کند. همچنین ممکن است محیطی از نابرابری را تقویت کند، به ویژه بر کسانی که در سمت اشتباه شکاف دیجیتالی قرار دارند.

علاوه بر این، تغییر به سمت وابستگی به هوش مصنوعی می تواند منجر به "ضعف" بشریت شود. این می تواند شبیه به سناریوی دیستوپیایی در فیلم هایی مانند WALL-E. 

مرکز ایمنی هوش مصنوعی خاطرنشان کرد که تسلط هوش مصنوعی ممکن است به تدریج تحت کنترل تعداد محدودی از نهادها قرار گیرد. ممکن است "رژیم ها را قادر سازد تا ارزش های محدود را از طریق نظارت فراگیر و سانسور ظالمانه اعمال کنند."

این چشم انداز تاریک آینده، خطرات بالقوه مرتبط با هوش مصنوعی را برجسته می کند و بر نیاز به مقررات و کنترل دقیق تاکید می کند.

فراخوان مقررات هوش مصنوعی

شدت این نگرانی‌ها باعث شده است تا رهبران صنعت از مقررات سخت‌تر هوش مصنوعی دفاع کنند. این درخواست برای مداخله دولت بازتاب اجماع فزاینده ای است که توسعه و استقرار هوش مصنوعی باید با دقت مدیریت شود تا از سوء استفاده و اختلال ناخواسته اجتماعی جلوگیری شود.

هوش مصنوعی بسته به نحوه استفاده از آن، پتانسیل آن را دارد که یک موهبت یا فاجعه باشد. ایجاد یک گفتگوی جهانی در مورد کاهش خطرات و در عین حال بهره مندی از مزایای این فناوری قدرتمند بسیار مهم است. 

ریشی سوناک، نخست‌وزیر بریتانیا، معتقد است که هوش مصنوعی در کمک به افراد فلج برای راه رفتن و کشف آنتی‌بیوتیک‌های جدید مؤثر بوده است. با این وجود، ضروری است که اطمینان حاصل کنیم که این فرآیندها به صورت ایمن و ایمن انجام می شوند.

مردم نگران گزارش هایی خواهند بود که هوش مصنوعی خطرات وجودی دارد، مانند بیماری های همه گیر یا جنگ های هسته ای. من می‌خواهم به آنها اطمینان داده شود که دولت با دقت به این موضوع نگاه می‌کند.»

مدیریت هوش مصنوعی باید به یک اولویت جهانی تبدیل شود تا از تبدیل شدن آن به تهدیدی برای موجودیت انسان جلوگیری شود. برای استفاده از مزایای هوش مصنوعی و در عین حال کاهش خطرات انقراض انسان، مهم است که با احتیاط و هوشیاری قدم بردارید. دولت ها همچنین باید مقررات را بپذیرند، همکاری جهانی را تقویت کنند و در تحقیقات دقیق سرمایه گذاری کنند.