اخلاق هوش مصنوعی و دره عجیب و غریب هوش مصنوعی تحسین شده، که اتومبیل های خودران مبتنی بر هوش مصنوعی را نیز به صدا در می آورد

گاهی اوقات چیزهای کمی عجیب و غریب وجود دارند که توجه شما را به خود جلب می‌کنند و احساس شهودی شما را تحریک می‌کنند که به نوعی مشکلی وجود دارد. این عجیب و غریب در چهره شما آشکار نیست. حتی ممکن است نتوانید فوراً انگشت خود را روی ناهماهنگی یا حس گزگز زدن ضرب المثل عنکبوتتان بگذارید.

شاید سرنخ های گویای ظریفی در حال احساس شدن باشد. شاید به طور اتفاقی در روده خود متوجه شدید که ناهماهنگی وجود دارد. حدس می‌زنم می‌توانید بگویید که کوچک‌ترین نشانه‌ای از وهم‌انگیز بودن وجود دارد و رادار انسانی ظریف شما سیگنال‌های به ظاهر پنهان را دریافت می‌کند.

به دره عجیب خوش آمدید.

اگر تا به حال نام دره عجیب و غریب را نشنیده اید، موضوعی که در زمینه هوش مصنوعی و به ویژه روباتیک محبوبیت نسبی پیدا کرده است، کمی مورد توجه شما قرار گرفته است زیرا این موضوعی است که من در اینجا از نزدیک در مورد آن بحث و تحلیل خواهم کرد.

این مفهوم فراگیر می تواند برای بسیاری از چیزهایی که در زندگی تجربه می کنیم اعمال شود، اگرچه اصول اصلی و تعریف اصلی مستلزم سیستم های هوش مصنوعی و روبات ها است. ما ابتدا منشأ و معنای اولیه دره غیرعادی را بررسی می کنیم و سپس به گسترش آن ادامه می دهیم تا ببینیم چگونه به نظر می رسد این پدیده ها در زمینه های بزرگتر قابل اجرا هستند.

من همچنین می‌توانم اضافه کنم که ما در نظر خواهیم گرفت که آیا اصلاً دره غیرعادی وجود دارد یا خیر.

ببینید، برخی از بدبینان و بدبینان استدلال می‌کنند که کل ماجرا کمی مضحک است و آب نمی‌خورد. هنگام مطرح کردن موضوع برای کسانی که می دانند مراقب باشید. برخی با خوشحالی لبخند می زنند و بر پشت شما دست می زنند که به خوبی با دره عجیب و غریب آشنا هستید، در حالی که برخی دیگر با جدیت به شما می گویند که این دره غوغایی است و باید به طور خلاصه ذهن خود را با یک تکه صابون پاک کننده ذهن پاک کنید. .

خبر خوب در اینجا این است که شما باید تصمیم بگیرید که آیا دره عجیب و غریب واقعی است یا نه، و اینکه آیا این دره برای کاربرد آگاهانه شایستگی دارد یا در عوض باید بدون تشریفات روی مخلفات ایده های فنی پرتاب شود. از این نظر، شما در صندلی راننده هستید.

همه اینها همچنین به حوزه رو به رشد هوش مصنوعی اخلاقی و این درک رو به رشد مربوط می شود که جامعه باید به طور جدی و هوشیارانه به اخلاق هوش مصنوعی توجه کند. ما آن کراوات را یک لحظه درست می کنیم.

بهترین مکان برای شروع، نقل قول مستقیم از استادی است که مفهوم دره عجیب و غریب را مطرح کرده و صریحاً این پدیده اعلام شده را نامگذاری کرده است. در سال 1970، پروفسور ماساهیرو موری در انستیتوی فناوری توکیو مقاله نسبتاً کوچکی را در یک مجله تا حدی کمتر شناخته شده منتشر کرد. انرژی (به ویژه بستری برای هوش مصنوعی و روباتیک نیست) و این را گفت:

من متوجه شده ام که هنگام صعود به سمت هدف انسان جلوه دادن ربات ها، تمایل ما به آنها افزایش می یابد تا زمانی که به دره ای می رسیم که من آن را دره عجیب و غریب می نامم.

لطفاً توجه داشته باشید که عبارت فوق به زبان انگلیسی نشان داده شده است، اگرچه مقاله اصلی به زبان ژاپنی بود. نسخه ترجمه شده انگلیسی توسط نویسنده نظارت شد و بعداً در نشریه منتشر شد IEEE Spectrum در سال 2012 و به ماساهیرو موری به عنوان نویسنده اعتبار داده شد. شما می توانید مقاله را خودتان بخوانید زیرا به صورت آزاد و به صورت آنلاین در دسترس است. این یک خواندن سریع و قطعی حدود ده دقیقه یا بیشتر است و حاوی هیچ اصطلاح فنی سنگینی نیست.

همانطور که گفته شد، جالب و تا حدودی شگفت‌انگیز است که چنین مقاله‌ای سریع، که در سال 1970 منتشر شد، در نهایت یک عرصه کامل تحقیق را آغاز کرد و هزاران مطالعه، پروژه، تحقیقات مرتبط را به راه انداخت و گاه طوفانی از بحث و جدل در مورد اینکه آیا مفهوم دره عجیب و غریب واقعا وجود دارد. گمان می‌کنم این نشان می‌دهد که ایده‌های جذاب و در مواقعی که دیدگاه‌ها را تغییر می‌دهند، نیازی به پیچیدگی یا آکنده شدن بیش از حد از اصطلاحات و تعبیرات خاص ندارند. یک ایده موجز می‌تواند حتی قوی‌تر از آن چیزی نباشد که در ظاهر همه چیز به نظر می‌رسد.

من اعتماد دارم که شما را تشویق می کند تا ایده های جدید خود را تقویت کنید و این کار را با این درک انجام دهید که شیرین و ساده می تواند به همان اندازه باشکوه یا گاهی بیشتر از پیچیده و پیچیده باشد.

بیایید دوباره به درون برانگیختن دره عجیب و غریب بپریم.

شما با یک سیستم روباتیک روبرو می شوید که چهره ای شبیه به چهره انسان دارد. تصور کنید که این چهره رباتیک از طریق تکرارهای متعدد ابداع شده است. توسعه‌دهندگان هوش مصنوعی که سر ربات را کنار هم می‌گذارند، به‌تدریج در تلاش بوده‌اند تا قسمت‌های صورت روباتیک را بیشتر و بیشتر شبیه یک چهره واقعی انسان جلوه دهند.

اولین تلاش آنها بسیار ابتدایی بود. چهره ربات همان ظاهری را داشت که در فیلم های علمی تخیلی کاملاً فلزی بود و چرخ دنده ها و سیم ها را به نمایش می گذاشت. وقتی به این سازه خیره می‌شوید، فوراً متوجه می‌شوید که یک ربات است. سوالی در این مورد در ذهن شما نیست.

تلاش بعدی توسعه دهندگان هوش مصنوعی شامل پیچیدن برخی مواد پلاستیکی در اطراف قطعات فلزی بود. اگرچه این ظاهر تا حدودی دوستانه‌تر به نظر می‌رسد، اما شما هنوز فوراً می‌دانید که یک سر ربات و یک چهره رباتیک است. باز هم تشخیص آسان است.

آن توسعه دهندگان هوش مصنوعی مصمم هستند که این کار را ادامه دهند. آنها پلاستیک را مجسمه می کنند و به آن رنگ پوست می دهند. آنها ویژگی هایی را اضافه می کنند که بسیار شبیه به صورت انسان به نظر می رسد، مانند خال، مو، لک و موارد مشابه.

در نگاه اول، ممکن است به این باور برسیم که این یک چهره انسانی است. اگر عکسی از چهره رباتیک گرفته شده باشد و از شما خواسته شود که تشخیص دهید آیا تصویر یک شخص را در مقابل یک چهره رباتیک به تصویر می‌کشد، ممکن است فوراً بتوانید بگویید که کدام است. از سوی دیگر، اگر در کنار دستگاه می‌ایستید، احتمالاً با بررسی دقیق می‌توانید تشخیص دهید که این یک انسان نیست و در عوض یک ساختگی رباتیک است.

مسئله این است که قبل از اینکه شما این شانس را برای بررسی دقیق از نزدیک داشته باشید، چیزی در مورد چهره وجود داشت که به نظر نمی رسید به طور کامل جمع شود. مطمئناً شبیه چهره انسان بود. اما چیزی اشتباه بود. باید مدام به شدت خیره می شدی تا انگشتت را روی چیزی بگذاری که کاملاً درست به نظر نمی رسد. شاید یک چهره واقعی باشد. سپس دوباره، شاید اینطور نیست. ذهن شما بر این اساس غوغا می کند.

یک ظاهر وهم آلود به ذهن شما وارد می شود.

وقتی دو نسخه قبلی را دیدید، آن ظاهر وهم آلود را نداشتید. بدون مکث یا تردید می توانستید تشخیص دهید که ربات یک ربات است. فقط یک کودک ممکن است فریب بخورد و باور کند که هر یک از آن نسخه ها مربوط به یک شخص واقعی است.

هر چند این آخرین نسخه متفاوت بود. هنوز به کمال نرسیده بود که مانند چهره انسان ظاهر شود. همچنین آنقدر از واقعیت دور نبود که معلوم بود باید یک روبات باشد. به یک جور زمین گل آلود رسیده بود.

فرض کنید توسعه دهندگان تلاش های تحقیقاتی خود را بیشتر کردند و همه چیز را به گونه ای مرتب کردند که چهره رباتیک تقریباً از چهره انسان قابل تشخیص نبود. مهم نیست چقدر به آن چیز خیره می‌شوید، مطمئن نیستید که انسان است یا نه. وقتی به شما اطلاع داده می شود که این چهره رباتیک است، شگفت زده می شوید. خدایا، آنها برای واقعی جلوه دادن آن کار بزرگی انجام داده اند.

توجه داشته باشید که تاکنون فقط جنبه های رباتیک را بر اساس ظاهر در نظر گرفته اید.

می توانیم حرکت را به معادله اضافه کنیم. این یک بعد اضافی برای تشخیص اینکه آیا ربات یک ربات در مقابل یک انسان است، اضافه می کند. من نمی‌خواهم این مسئله را به‌عنوان یک نوع مسئله چند بعدی در این بحث کاملاً مطرح کنم، زیرا توضیح در مورد این موضوع را پیچیده‌تر می‌کند (هر چند چند بعدی به ناچار در هم تنیده شده‌اند). در هر صورت، تصور کنید که نه تنها چهره رباتیک را دیدید، بلکه می‌توانید حرکت ربات اجزای صورت، مانند دهان، چشم‌ها، بینی و غیره را نیز تماشا کنید. ربات یا انسان

یکی از جنبه های حیاتی که باید در خط مقدم دره عجیب و غریب نگه داشت این است که مفهوم اصلی بر عمل قرابت انسانی تأکید دارد. پدیده ادعا شده این است که با مشاهده چهره‌های روباتی که به صورت تدریجی بهبود می‌یابند، تمایل شما افزایش می‌یابد، تا جایی که نوع عجیب و غریب پدید می‌آید. گفته می‌شود که در آن مقطع، احساس میل شما به طور چشمگیری کاهش می‌یابد و به شکاف یا دره میل می‌رسد.

برای نسخه خاصی که باعث شد به اشتباه بودن چیزی مشکوک شوید، ظاهراً تمایل شما به شدت کاهش یافته است. علاوه بر این، طبق این تئوری، زمانی که با نسخه پیشرفته‌تر که تقریباً شبیه به یک شکل واقعی انسانی است، می‌توانید تمایل شما را دوباره افزایش دهد.

در اینجا بیشتر در مورد آنچه نویسنده در مورد تمایل عادی ما به این فرض که جنبه های زندگی به آرامی در حال افزایش هستند بیان می کند: "اصطلاح ریاضی عملکرد یکنواخت افزایش می یابد رابطه ای را توصیف می کند که در آن تابع y = ƒ(x) به طور مداوم با متغیر افزایش می یابد x. به عنوان مثال، به عنوان تلاش x رشد می کند، درآمد y افزایش می یابد، یا با فشار دادن پدال گاز خودرو، خودرو سریعتر حرکت می کند. این نوع رابطه در همه جا وجود دارد و به راحتی قابل درک است. در واقع، از آنجایی که این کارکردهای یکنواخت فزاینده بیشتر پدیده‌های زندگی روزمره را پوشش می‌دهند، مردم ممکن است دچار این توهم شوند که همه روابط را نشان می‌دهند. همچنین گواهی بر این تصور نادرست این واقعیت است که بسیاری از مردم در طول زندگی با فشار دادن مداوم بدون درک اثربخشی عقب‌نشینی تلاش می‌کنند. به همین دلیل است که مردم معمولاً وقتی با پدیده‌ای مواجه می‌شوند که این عملکرد نمی‌تواند نشان دهد، متحیر می‌شوند.» این به نقل از IEEE Spectrum کاغذ ترجمه شده

این فرض تقریباً جهانی در مورد همیشه افزایش می‌تواند وقتی با مشکلی روبرو می‌شویم، لغو شود. این تئوری می گوید که وهم آلود بودن و بدگمانی باعث کاهش نسبتاً ناگهانی و چشمگیر میل جنسی می شود، مانند یک دست رباتیک که شما تصمیم گرفتید آن را تکان دهید و نتوانستید ویژگی های استخوانی دست انسان را احساس کنید: «وقتی این اتفاق می افتد، ما حس خود را از دست می دهیم. از قرابت، و دست عجیب و غریب می شود. در شرایط ریاضی، این را می توان با یک مقدار منفی نشان داد.

اگر این فرض را بپذیرید که این پدیده دره غیرعادی وجود دارد، مطمئنم از خود می پرسید که چه فایده ای برای شما دارد که بدانید ظاهراً دره عجیب وجود دارد.

این کلاسیک تمام دوران است "پس چی؟" تست عملی بودن

به نظر می رسد که بسیاری از مردم تفسیرهای زیادی از آنچه باید یا می توانیم در مورد دره عجیب و غریب انجام دهیم، ارائه کرده اند. هزاران نظر وجود دارد. من به زودی به برخی از آن خواهم پرداخت.

در همین حال، این چیزی است که ماساهیرو موری ارائه کرد: «ما امیدواریم که ربات‌ها و دست‌های مصنوعی را طراحی و بسازیم که در دره عجیب و غریب نیفتند. بنابراین، به دلیل خطر ذاتی در تلاش برای افزایش درجه تشابه انسانی برای افزایش قله دوم، من توصیه می‌کنم که طراحان در عوض قله اول را به عنوان هدف خود در نظر بگیرند، که منجر به درجه متوسطی از شباهت انسانی و احساس قرابت قابل توجهی می‌شود. . در واقع، من پیش‌بینی می‌کنم که می‌توان با دنبال کردن عمدی یک طرح غیرانسانی، یک سطح ایمن از قرابت ایجاد کرد. از طراحان می‌خواهم در این مورد فکر کنند.»

یک تراکم سریع از طرف من از دوازده قانون مفید در مورد آنچه که در مورد دره عجیب و غریب باید انجام شود، به ویژه برای توسعه دهندگان هوش مصنوعی به این صورت است:

1) از دره عجیب و غریب آگاه باشید و بر این اساس روی انگشتان خود باشید

2) احتمالاً می خواهید تا حد امکان به هوش مصنوعی خود نزدیک شوید

3) اگر هوش مصنوعی شما به دره عجیب و غریب سقوط کرد، برای از دست دادن میل انسانی آماده باشید.

4) با ابداع هوش مصنوعی خود به این ترتیب سعی کنید از دره عجیب و غریب اجتناب کنید

5) داشتن هدفی که کوتاه از دره ی نامطلوب باشد قابل احترام است

6) تا لبه دره عجیب و غریب حرکت کنید اما از روی صخره نیفتید

۷) در فراتر رفتن از دره عجیب و غریب وسواس نداشته باشید

8) این احتمال وجود دارد که بتوانید از دره عجیب و غریب بپرید

9) با جهش مشغول نشوید زیرا ممکن است به هر حال به دره بیفتید

10) مسلماً حداکثر میل انسانی با عبور از دره عجیب و غریب به دست می آید.

11) با این وجود، قرابت کافی و مناسب قبل از دره غیرعادی وجود دارد.

12) مدام مراقب دره عجیب و غریب باشید و اجازه ندهید که ذهن شما را از دست بدهد.

این ده‌ها همه احکام کلی هستند که می‌توان آنها را به‌عنوان پایه‌های اصلی یا لنگرگاه شناخت دره عجیب و غریب در نظر گرفت. من فوراً تصدیق خواهم کرد که نکات دیگری وجود دارد که در این دوجین اندک ذکر نشده است و ممکن است به همان اندازه مهم استدلال شود. من همچنین به آسانی تصدیق خواهم کرد که برای هر یک از نکات مشخص شده، ناچاراً اختلاف نظر وجود دارد و می‌تواند در مورد هر نکته‌ای که بیان شد، بحث‌های داغ طولانی در پی داشته باشد.

علاوه بر این، برخی می گویند که دوازده نکته کاملاً بی ارزش هستند، زیرا برای شروع آنها بر اساس یک دروغ است. آنها استدلال می کنند که چیزی به نام دره عجیب و غریب وجود ندارد. همه اینها صرفاً شیطنت و یک تدبیر ساختگی است که صرفاً و متأسفانه برای جذب ذهن های ضعیف جذاب است (اوه، این واقعاً صدمه می زند!). هر گونه توجه به دره عجیب و غریب یک نفس هدر رفته هوا است و باید کسی بیاید و یک چوب تیز چوبی نظری را در دل موضوع بگذارد (برخی از محققان این کار را انجام داده اند).

برای بحث، بیایید با جریان پیش برویم و فرض کنیم که یک دره عجیب و غریب وجود دارد و به نظر می رسد که به طور کلی با آنچه من تا کنون نشان داده ام مطابقت دارد. کسانی که با مفهوم سازی یک دره عجیب و غریب موافق نیستند، می‌توانند با دندان قروچه و خشم فکری‌شان در حال جوشیدن و جوشیدن (با عرض پوزش، به مطالعه خود ادامه دهند).

در اینجا آمده است که چگونه هوش مصنوعی اخلاقی و تمرکز بر ابداع و میدان دادن به هوش مصنوعی اخلاقی انجام می شود. به هر حال، برای کاوش های مداوم و عمیق من در مورد اخلاق هوش مصنوعی، به بحث من در این لینک در اینجا و این لینک در اینجا، فقط به نام چند.

دره عجیب و غریب برای کسانی که به هوش مصنوعی اخلاقی می پردازند یک رابطه عشق و نفرت است.

اول، برخی از پس زمینه مورد نیاز است. یکی از نگرانی‌های اخلاقی مرتبط با هوش مصنوعی این است که انسان‌ها را می‌توان فریب داد و باور کرد که یک سیستم هوش مصنوعی حساس است. لطفاً توجه داشته باشید که هیچ هوش مصنوعی امروزی وجود ندارد که از راه دور به هوش بودن نزدیک شود. این فقط در این زمان اتفاق نمی افتد. ادعای ظاهراً «وقیحانه» من علیرغم آن عناوین بی وقفه و پر سر و صدایی است که نشان می دهد این هوش مصنوعی یا هوش مصنوعی آنقدر حساس است یا به اندازه کافی نزدیک است که به عنوان چنین تلقی شود. مالارکی. ما در هوش مصنوعی نیستیم.

ما نمی دانیم چگونه به آنجا برسیم. نمی دانیم که آیا این اتفاق خواهد افتاد. هوش مصنوعی یک رویا و آرزوی ارزشمند است، اگرچه از تفنگ نپرید و فکر نکنید که در آستانه رسیدن به آن هستیم.

البته، بسیاری به شدت هشدار می دهند که اگر به نحوی بتوانیم هوش مصنوعی را از بین ببریم، خواه از روی طراحی یا تصادفی محض این کار را انجام دهیم، با یک خطر وجودی مواجه خواهیم شد. با این شیوه تفکر، شاید جستجوی هوش مصنوعی چندان ارزشمند نباشد. خطر این است که این هوش مصنوعی حساس ممکن است تشخیص دهد که انسان ها ارزش داشتن در اطراف را ندارند. می توانستیم مثل یک حشره له شویم. یا اسیر هوش مصنوعی شوید. این ممکن است با انتخاب آشکار هوش مصنوعی برای انجام این کار اتفاق بیفتد، یا ممکن است هوش مصنوعی به ماشین روز قیامت خودمان تبدیل شود که با ناتوانی خود ما را نابود می کند. برای پوشش من در مورد آن پیامدهای نگران کننده احساس هوش مصنوعی یا تکینگی، نگاه کنید پیوند اینجا.

یکی از نگرانی‌های مهم هوش مصنوعی اخلاقی این است که توسعه‌دهندگان هوش مصنوعی و کسانی که هوش مصنوعی را در اختیار دارند، گاهی انسان‌ها را به این فکر می‌اندازند که هوش مصنوعی هوشیار است. روشی که هوش مصنوعی خود را نشان می‌دهد، مانند فرمول‌بندی روباتیک یا تعامل مکالمه‌ای آن، می‌تواند به طرز موذیانه‌ای افراد را وادار کند که این هوش مصنوعی را حس کنند. این به نوبه خود شما را به یک مسیر بالقوه ناپاک پامچال هدایت می کند.

اگر در تله ذهنی فکر کردن که یک سیستم هوش مصنوعی حساس است گرفتار شوید، احتمالاً برای انجام کارهایی که موجودات ذی‌شعور انجام می‌دهند به آن تکیه خواهید کرد. اما هنوز هیچ حس مشترکی از کیفیتی شبیه انسان در هیچ یک از هوش مصنوعی امروزی وجود ندارد. هوش مصنوعی که ما در حال حاضر تجربه می کنیم بسیار شکننده و کم عمق در مورد ظرفیت های انسان مانند است. شما می توانید با این باور که یک سیستم هوش مصنوعی حساس است، خود را وارد آب های ناخوشایند و خطرناک کنید.

چگونه با دره عجیب و غریب ارتباط برقرار می کند؟

این معامله است.

به یاد بیاورید که به نظر می رسد این دره عجیب به ما می گوید که با نزدیک شدن هرچه بیشتر یک سیستم هوش مصنوعی یا نزدیک شدن یک ربات به یک فرمول شبیه به انسان، میل انسانی به تدریج افزایش می یابد. در مقطعی که در آن سیستم هوش مصنوعی به نقطه نزدیکی نزدیک می‌شود، با این حال، هنوز کاملاً وجود ندارد، احساس وحشتناکی داریم که چیزی اشتباه است. تا آن زمان می دانستیم که هوش مصنوعی انسان نیست. حالا ما مطمئن نیستیم قرابت انسانی ما کاهش می یابد. تنها زمانی که هوش مصنوعی یا ربات در مورد ظرفیت‌های انسان‌مانند کاملاً متقاعد شود، می‌توانیم شباهت خود را به دستگاه بازیابی کنیم.

توسعه دهندگان هوش مصنوعی که به این دل می پردازند احتمالاً می توانند از قصد سعی کنید هوش مصنوعی خود را از دره عجیب و غریب دور نگه دارید، با هدف توقف از نظر ویژگی های هوش مصنوعی، درست قبل از سقوط به ورطه عجیب و غریب (به یاد داشته باشید، این همان چیزی است که ماساهیرو موری بر آن تاکید کرد). ظاهراً توسعه‌دهندگان این کار را با اطمینان از وجود سرنخ‌های گویای فراوان انجام می‌دهند تا کاملاً واضح شود که هوش مصنوعی هوش مصنوعی کمتری است و انسان نیست یا به همان اندازه است.

اصولگرایان اخلاق هوش مصنوعی از این تلاش قلبی استقبال می کنند.

استدلال سرراست است. کسانی که تا این حد آگاه هستند و توسعه دهندگان هوش مصنوعی را در آغوش می گیرند، سعی می کنند مطمئن شوند که سیستم هوش مصنوعی مردم را گمراه نمی کند که به دروغ امکاناتی شبیه به انسان را به هوش مصنوعی نسبت دهند. این مطمئناً خبر خوبی است. توسعه دهندگان به طور عمدی هوش مصنوعی را برای جلوگیری از شیرجه به دره عجیب و غریب ایجاد خواهند کرد. انسان ها به راحتی متوجه خواهند شد که هوش مصنوعی حساس نیست.

تلاش برای ترغیب توسعه دهندگان هوش مصنوعی به پذیرش چنین رویکردی آسان نیست. در واقع، می تواند با غرایز و جاه طلبی های معمول آنها مخالف باشد.

ادعاهای زیادی مبنی بر اینکه توسعه دهندگان و متخصصان فناوری هوش مصنوعی، به طور کلی، با اهدافی از بین رفته اند، مطرح می شود. آنها هدفی را می بینند و اغلب کورکورانه آن را با اشتیاق زیاد دنبال می کنند. زمانی برای توقف و بوییدن گل رز نیست. به مسابقات بروید، ما می رویم. در زمینه هوش مصنوعی، هدف هنجاری یک هوش مصنوعی ایده آل خواهد بود که از انسان ها متمایز نیست، زیرا هوش مصنوعی می تواند هوشمندانه از نظر برابری برابر باشد. اما ما هنوز آنجا نیستیم به این ترتیب، دره غیرعادی یک هدف ثانویه را فراهم می کند، فرود آمدن قبل از دره غیرقابل سدسازی، و تبدیل به هدفی می شود که با این وجود قابل قبول است. مطمئناً این حلقه طلایی نیست، اما ایده این است که این جایزه "ثانویه" خوب است، بسیار متشکرم و می توانید به آن افتخار کنید.

ما بالاترین جاه طلبی ویرانگر را تغییر داده‌ایم و آن را در یک مبنای منطقی و منطقی برای انجام کار درست به کار گرفته‌ایم.

هورا!

برای اخلاق هوش مصنوعی برنده شوید.

اما منتظر یک هشدار اسپویلر باشید، چیز دیگری وجود دارد که باید به همان اندازه در نظر بگیریم.

اکنون که آن توسعه دهندگان هوش مصنوعی باهوش در مورد دره عجیب و غریب می دانند، ممکن است عقل و مهارت فنی خود را به سمت پریدن عمدی از ورطه سوق دهند و در عین حال این کار را با ظاهری فریب در ذهن انجام دهند. هوش مصنوعی را کاملاً شبیه انسان جلوه دهید، حتی اگر توسعه دهندگان این را نادرست می دانند.

تفکر سرکش به این صورت است. اجازه ندهید که سیستم هوش مصنوعی شما کلاه خود را پایین بیاورد و باعث شود مردم به آن جریان پنهانی وهم آلود دست یابند. جنبه هایی را که ممکن است اشاره یا سرنخی به دست دهد که هوش مصنوعی توانایی انسانی ندارد را حذف کنید. این کار را در حالی انجام دهید که به طور مخفیانه متوجه شوید و به طور غیرقابل توجیهی بدانید که هوش مصنوعی توانایی انسان را ندارد و این همه در مورد پنهان کردن این حقیقت از کسانی است که با هوش مصنوعی تعامل دارند یا به آن وابسته هستند.

چه نقشه های شیطانی

از قضا، دره عجیب و غریب می تواند نوعی زنگ خطر برای توسعه دهندگان هوش مصنوعی باشد که اگر می خواهند واقعا مردم را فریب دهند، باید به اندازه کافی باهوش باشند تا از ورطه فرار کنند. آن‌ها این کار را با دستیابی به هوش مصنوعی کامل انجام نمی‌دهند، بلکه با برافراشتن دود و آینه‌ها برای اینکه هوش مصنوعی گمراه‌کننده به نظر برسد، مانند انسان است. اگر توسعه دهندگان هوش مصنوعی متوجه وجود این دره عجیب و غریب نمی شدند، به طور کلی در آن سقوط می کردند. این برای نوع بشر خوب است، زیرا انسان‌ها به دلیل عدم اتکای بیش از حد به کیفیت امروزی هوش مصنوعی، تمایل خود را به هوش مصنوعی از دست خواهند داد.

متأسفانه، با آگاهی از وجود این تله، توسعه‌دهندگان هوش مصنوعی که می‌خواهند دزدکی در اطراف آن نفوذ کنند، راه‌های بسیار هوشمندانه‌ای برای این کار پیدا خواهند کرد.

در مقابل قوانین هوش مصنوعی اخلاقی امتیاز کسب کنید.

آیا می بینید که چگونه این رابطه عشق و نفرت را برای اخلاق مداران هوش مصنوعی در مورد دره عجیب و غریب ایجاد می کند؟

لعنتی اگر این کار را کنی، لعنتی اگر نکنی.

من متوجه هستم که این یک بررسی تا حدی بالا از دره عجیب و غریب بوده است و شما ممکن است مشتاق نمونه‌های روزمره باشید. مجموعه‌ای از نمونه‌های خاص و مطمئناً محبوب وجود دارد که به دلم نشسته است. ببینید، به عنوان یک متخصص در زمینه هوش مصنوعی از جمله پیامدهای اخلاقی و قانونی، اغلب از من خواسته می‌شود که نمونه‌های واقع‌بینانه‌ای را که معضلات اخلاقی هوش مصنوعی را نشان می‌دهند شناسایی کنم تا بتوان ماهیت تا حدودی نظری موضوع را راحت‌تر درک کرد. یکی از جذاب‌ترین زمینه‌هایی که این معضل اخلاقی هوش مصنوعی را به وضوح نشان می‌دهد، ظهور خودروهای خودران واقعی مبتنی بر هوش مصنوعی است. این به عنوان یک مورد استفاده مفید یا نمونه ای برای بحث و گفتگوی کافی در مورد موضوع خواهد بود.

پس در اینجا یک سوال قابل توجه وجود دارد که قابل تامل است: آیا ظهور خودروهای خودران واقعی مبتنی بر هوش مصنوعی چیزی را در مورد دره عجیب و غریب روشن می کند، و اگر چنین است، این به ما اطلاع می دهد که چه کار کنیم؟

یک لحظه به من اجازه دهید تا پرسش را باز کنم.

اول، توجه داشته باشید که هیچ راننده انسانی در یک ماشین خودران واقعی دخیل نیست. به خاطر داشته باشید که خودروهای خودران واقعی از طریق سیستم رانندگی هوش مصنوعی هدایت می شوند. نه نیازی به راننده انسان پشت فرمان وجود دارد و نه پیش بینی ای برای رانندگی وسیله نقلیه توسط انسان وجود دارد. برای پوشش گسترده و مداوم من در مورد وسایل نقلیه خودران (AVs) و به خصوص خودروهای خودران، نگاه کنید به پیوند اینجا.

مایلم بیشتر توضیح دهم که منظور از خودروهای خودران واقعی چیست.

درک سطح اتومبیل های خودران

به عنوان یک توضیح ، اتومبیل های واقعی خودران از جمله مواردی هستند که هوش مصنوعی اتومبیل را کاملاً خود به خود هدایت می کند و هیچ گونه کمک انسانی در حین کار رانندگی وجود ندارد.

این وسایل نقلیه بدون راننده سطح 4 و سطح 5 در نظر گرفته می شوند (توضیحات من را در اینجا ببینید این لینک در اینجا) ، در حالی که خودرویی که نیاز به یک راننده انسانی برای مشارکت در رانندگی دارد معمولاً در سطح 2 یا سطح 3 در نظر گرفته می شود. افزودنی های خودکار که به عنوان ADAS (سیستم های کمک راننده پیشرفته) شناخته می شوند.

در سطح 5 هنوز یک اتومبیل واقعی رانندگی وجود ندارد ، که ما حتی نمی دانیم آیا این امر امکان پذیر خواهد بود یا اینکه رسیدن به آنجا چقدر طول می کشد.

در همین حال ، تلاش های سطح 4 به تدریج در تلاشند تا با انجام آزمایشات عمومی بسیار باریک و انتخابی در جاده ها ، کمی به سمت خود جلب کنند ، هرچند در مورد اینکه آیا این آزمایش به خودی خود مجاز است یا خیر ، اختلاف نظر وجود دارد (همه ما در یک آزمایش خوکچه هندی زنده یا مرگ هستیم) برخی از آنها ادعا می كنند كه در بزرگراهها و گذرگاههای ما در حال انجام است این لینک در اینجا).

از آنجا که اتومبیل های نیمه خودمختار به یک راننده انسانی احتیاج دارند ، تصویب آن دسته از اتومبیل ها تفاوت چندانی با رانندگی وسایل نقلیه معمولی نخواهد داشت ، بنابراین به تنهایی چیز جدیدی برای پوشش آنها در این موضوع وجود ندارد (هر چند ، همانطور که خواهید دید در یک لحظه ، نکات بعدی که بطور کلی اعمال می شود).

در مورد اتومبیل های نیمه خودمختار ، مهم است که در مورد جنبه نگران کننده ای که اخیراً بوجود آمده است ، هشدار داده شود ، یعنی این که با وجود آن رانندگان انسانی که با ارسال فیلم هایی از خودشان ، در حال خوابیدن در چرخ یک اتومبیل سطح 2 یا سطح 3 هستند. ، همه ما باید از اینكه گمان نرود راننده بتواند هنگام رانندگی یك اتومبیل نیمه خودمختار ، توجه خود را از وظیفه رانندگی دور كند ، خودداری كنیم.

شما مسئولیت اقدامات رانندگی وسیله نقلیه ، صرفنظر از میزان اتوماسیون در سطح 2 یا سطح 3 ، مسئولیت مسئولیت مسئولیت شما می باشد.

اتومبیل های خودران و دره عجیب و غریب

برای وسایل نقلیه خود رانندگی واقعی سطح 4 و سطح 5 ، یک راننده انسانی درگیر در وظیفه رانندگی نخواهد بود.

همه سرنشینان مسافر خواهند بود.

هوش مصنوعی رانندگی را انجام می دهد.

یک جنبه برای بحث فوری این واقعیت را در بر دارد که هوش مصنوعی در سیستم های رانندگی هوش مصنوعی امروزی حساس نیست. به عبارت دیگر ، هوش مصنوعی در مجموع مجموعه ای از برنامه نویسی و الگوریتم های مبتنی بر رایانه است و مطمئناً قادر به استدلال به همان روشی نیست که انسان می تواند.

چرا این تاکید اضافی در مورد هوش مصنوعی نیست؟

از آنجا که می خواهم تأکید کنم هنگام بحث در مورد نقش سیستم رانندگی AI ، من خصوصیات انسانی را به AI نسبت نمی دهم. لطفاً توجه داشته باشید که این روزها تمایل مستمر و خطرناکی برای انسان سازی AI وجود دارد. در حقیقت ، افراد حساسیتی شبیه انسان به هوش مصنوعی امروزی دارند ، علی رغم این واقعیت انکارناپذیر و غیرقابل انکار که هنوز چنین هوش مصنوعی وجود ندارد.

با این توضیحات ، می توانید تصور کنید که سیستم رانندگی هوش مصنوعی بطور طبیعی از جنبه های رانندگی "آگاهی" نداشته باشد. رانندگی و همه آنچه که شامل می شود باید به عنوان بخشی از سخت افزار و نرم افزار اتومبیل خودران برنامه ریزی شوند.

بیایید به جنبه های بی شماری بپردازیم که در این موضوع بازی می شوند.

اول، مهم است که بدانیم همه خودروهای خودران با هوش مصنوعی یکسان نیستند. هر خودروساز و شرکت فناوری خودران رویکرد خود را برای ابداع خودروهای خودران در پیش گرفته است. به این ترتیب، اظهار نظر گسترده در مورد اینکه سیستم های رانندگی هوش مصنوعی چه کاری انجام خواهند داد یا انجام نمی دهند، دشوار است.

علاوه بر این ، هرگاه بیان شود که سیستم رانندگی هوش مصنوعی کار خاصی انجام نمی دهد ، بعداً توسعه دهندگانی که در واقع کامپیوتر را برای انجام این کار برنامه ریزی می کنند ، می توانند از این امر پیشی بگیرند. گام به گام ، سیستم های رانندگی هوش مصنوعی به تدریج در حال بهبود و گسترش هستند. امروزه محدودیت موجود ممکن است دیگر در نسخه یا نسخه بعدی سیستم وجود نداشته باشد.

من معتقدم که هشدارهای کافی برای تأکید بر آنچه که من در مورد آن صحبت می کنم فراهم می کند.

ما اکنون آماده ایم که به بررسی ماشین های خودران و سوالات اخلاقی هوش مصنوعی که مستلزم این دره عجیب هستند، بپردازیم.

چهار جنبه در این زمینه وجود دارد که در اینجا به آن پرداخته خواهد شد:

1. نمای کلی خودروهای خودران

2. این سوال که خودروهای خودران کجا هستند

3. AI اقدامات رانندگی اتومبیل های خودران

4. روبات هایی که به عنوان وسیله ای برای دستیابی به ماشین های خودران رانندگی می کنند

جنبه های اضافی نیز به طور قابل قبولی در بر می گیرند، اما برای محدودیت های فضا، این چهار موضوع برای روشن کردن یاتاقان دره عجیب و غریب در رابطه با خودروهای خودران مبتنی بر هوش مصنوعی کافی است.

1. نگاه کلی به خودروهای خودران

شرط می بندم که تصاویر یا ویدیوهایی از آزمایش های امروزی ماشین های خودران را دیده اید. به این ترتیب، ممکن است متوجه شده باشید که اکثر وسایل نقلیه خودروهایی با ظاهر معمولی هستند که به تجهیزات تخصصی اضافی مجهز شده اند. به عنوان مثال، ممکن است یک قفسه پشت بام وجود داشته باشد که حاوی تعداد زیادی سنسور الکترونیکی باشد. سنسورها گاهی اوقات شامل دوربین های فیلمبرداری، واحدهای رادار، دستگاه های LIDAR، سنسورهای اولتراسونیک و موارد مشابه می شوند.

طراحی‌های آینده نگر نشان می‌دهند که ما ممکن است از خودروهای معمولی خارج شویم و در عوض خودروها را هم در داخل و هم در نمای بیرونی بازطراحی کنیم تا خودروهای خودران با ظاهری نرم‌تر باشند. در حال حاضر، تفکر کلی این است که استفاده از خودروهای معمولی ساده‌تر است و انرژی خود را صرف تلاش برای طولانی‌تر کردن تلاش با ماشین‌های غیر متعارف به طور همزمان صرف نمی‌کند (در این دیدگاه کلی استثناهایی وجود دارد، به پوشش من در پیوند اینجا).

نکته در حال حاضر این است که اگر در جاده رانندگی می‌کنید و با یک خودروی خودران در نزدیکی روبرو می‌شوید، تقریباً همیشه می‌توانید فوراً متوجه شوید که احتمالاً یک خودروی خودران است و صرفاً با توجه به ریزش سنسورهای نصب شده روی وسیله نقلیه خودران. این یک هدیه بصری سریع است. البته، مطمئناً نمی‌دانید که خودران است، زیرا در این مقطع، کنترل‌های رانندگی معمولاً دست نخورده هستند و ممکن است یک راننده پشتیبان انسانی در فرمان باشد.

در یک روش فکری، می‌توانید پیشنهاد کنید که بسیار مفید است که اتومبیل‌های خودران از نظر فیزیکی متمایز به نظر می‌رسند و به راحتی توسط رانندگان انسان در اتومبیل‌های انسان‌گردان نزدیک و همچنین توسط عابران پیاده در نزدیکی مشاهده می‌شوند. درک این موضوع که یک خودروی خودران در این نزدیکی پرسه می‌زند می‌تواند سرنخ مفیدی برای نگهبانی شما باشد، و شما را وادار می‌کند مراقب باشید و به این نکته توجه داشته باشید که هوش مصنوعی خودرو را رانندگی می‌کند یا ممکن است در حال رانندگی باشد.

فرض کنید ماشین‌های خودران شبیه به ماشین‌های معمولی انسان‌گردان هستند. این از نظر واقع بینانه حداقل از دو طریق امکان پذیر است. اولاً، حسگرها می‌توانند به طور بالقوه پنهان یا به شکلی درآیند که برای بازرسی بصری گاه به گاه چندان آشکار نباشد. دوم، ممکن است تمام خودروها، از جمله خودروهای متعارف انسان محور، به تدریج به حسگرهای مشابه مجهز شوند، حتی اگر خودرو همچنان به عنوان یک خودروی عمدتاً هدایت‌کننده انسان باقی بماند. پوشش بیشتر من را در این لینک در اینجا.

اگر با دقت در این مورد فکر کنید که آیا اتومبیل های خودران می توانند یا باید از نظر ظاهری مشابه اتومبیل های متعارف انسان محور باشند، ممکن است به این فکر برسید که ممکن است دره ای عجیب در کمین این خورش باشد.

می بینید، خودروهایی که آشکارا شبیه خودروهای خودران به نظر می رسند، ممکن است در نقطه ای قرار بگیرند که کمی از دره عجیب و غریب فاصله دارد. اساسا، شما "می دانید" این یک ربات یا یک نوع سیستم روباتیک است. این قضاوتی است که تقریباً بلافاصله می توانید به آن بپرید.

وقتی ماشین‌های خودران به طور یکسان به ماشین‌های انسان‌گردان نگاه می‌کنند، شاید این نشان می‌دهد که وسایل نقلیه خودمختار از نظر ظاهری شبیه روباتیک از دره عجیب و غریب عبور کرده‌اند. آیا حد وسطی بین این دو ظاهر فیزیکی وجود دارد که ما را به دره عجیب و غریب می کشاند؟

شاید یک ماشین خودران را ببینید که از خیابان پایین می آید و به نظر می رسد که احتمالاً یک ماشین خودران است، از طرف دیگر، ظاهر نه کاملاً مستقل است و نه کاملاً انسان محور. شما می توانید استدلال کنید که خودروی خودران اکنون در وضعیت ظاهری وهم انگیز یا ناراحت کننده ای قرار دارد.

خودروی خودران ظاهراً خود را در دره عجیب و غریب غوطه ور کرده است.

همانطور که گفته شد، همه با آن دسته بندی موافق نیستند. برخی ادعا می کنند که ظاهر فیزیکی هیچ ارتباطی با دره عجیب و غریب ندارد. البته برخی نیز ادعا می‌کنند که چیزی به‌عنوان دره عجیب و غریب شناخته شده نیست.

همانطور که قبلا ذکر شد، شما می توانید تصمیم خود را در این مورد بگیرید.

2. سوال ماشین های خودران به کجا نگاه می کنند

نگرانی احتمالی که بسیاری در مورد اتومبیل های خودران دارند این است که آنها معمولاً هیچ راننده انسانی در صندلی راننده ندارند و بنابراین تشخیص اینکه "راننده" در هنگام رانندگی ماشین به کجا نگاه می کند دشوار است.

شما معمولاً به رانندگان انسان نگاه می کنید تا جایی که آنها به دنبال آن هستند جاسوسی کنید. به عنوان مثال، ممکن است در یک گذرگاه عابر پیاده باشید و خودرویی در حال نزدیک شدن به گذرگاه باشد. شما با دقت به فردی که در صندلی راننده نشسته است نگاه می کنید و سعی می کنید تشخیص دهید سر او به کجا چرخیده و چشمانش به کجا نگاه می کند. اگر فکر می کنید که راننده انسان شما را دیده است، ممکن است با عبور از خیابان راحت تر باشید. در مقابل، اگر به نظر می رسد که راننده انسان شما را ندیده است، شما به حق نگران عبور هستید.

در برخی شهرها نوعی قمار موش و گربه با این جنبه ها وجود دارد. یک هنجار فرهنگی خاص در یک شهر خاص ممکن است این باشد که اگر با یک راننده تماس چشمی برقرار کنید، راننده "برنده" می شود و آنها به ظاهر حق دارند بدون توجه به قانونی بودن وضعیت رانندگی ادامه دهند. سایر شهرها ممکن است کاملاً برعکس باشند، یعنی هنجار فرهنگی این است که وقتی ارتباط چشمی برقرار می‌شود، عابر پیاده «برنده» می‌شود و راننده انسانی قرار است از اعمال عابر پیاده عقب نشینی کند.

به نظر می‌رسد که ما این رسم را در زمان نسبتاً طولانی مدتی که خودروها در میان شهرها و جوامع ما هستند، پذیرفته‌ایم. مشکل ظهور خودروهای خودران این است که یک راننده انسانی در صندلی راننده وجود ندارد و بنابراین هر راننده عابر پیاده یا انسان نزدیکی که معمولاً از سر و چشم رانندگان خودرو به عنوان شاخص فرهنگی قصد رانندگی استفاده می کند، اکنون در حال حاضر است. از شانس

خودروسازان و توسعه دهندگان خودروهای خودران به شدت از این موضوع نوظهور آگاه هستند. یکی از راه‌حل‌های پیشنهادی شامل چشمک زدن چراغ‌های خودروی خودران توسط خودروی خودران یا احتمالاً زدن بوق است. تصور دیگر این است که خودروی خودران ممکن است یک نوع بلندگو داشته باشد و به کسانی که در نزدیکی خود هستند بگوید "نیت" سیستم رانندگی هوش مصنوعی چیست. این ایده ها هر کدام دارای نقاط منفی قابل توجهی هستند.

با این حال، یک پیشنهاد متفاوت مستلزم انجام کاری است که در ابتدا ممکن است فکر کنید مضحک است. این پیشنهاد شامل قرار دادن گوی های کره چشم در قسمت بیرونی خودروی خودمختار است. این گوی‌ها تقریباً شبیه چشم‌های انسان به نظر می‌رسند که می‌توانند به جلو و عقب بچرخند، و به شما یک نشانه فوری می‌دهند که نشان می‌دهد هوش مصنوعی شما را دیده است (شما این را با نگاه کردن کره چشم در جهت خاص خود تفسیر می‌کنید). من این رویکرد را در پیوند اینجا.

واکنش شما به دیدن یک خودروی خودران که از جاده پایین می آید و این کره چشم عجیب و غریب ظاهر می شود که بر روی کاپوت یا پشت بام نصب شده است، چه خواهد بود؟

فکر می‌کنم ممکن است فکر کنید وهم‌آور است، شاید هم وحشتناک.

برخی معتقدند که این وهم‌آوری ناشی از حضور ماشین خودران مجهز در دره عجیب و غریب است. دیگران به شدت استدلال می کنند که این هیچ ربطی به دره عجیب و غریب ندارد. از میان چنین صاحب نظرانی، برخی می گویند که وهم آلودی وجود دارد که می تواند وهم آلود باشد بدون اینکه نیاز باشد در دره عجیب و غریب مستقر شود (یعنی دره غیرعادی ظاهراً همیشه وهم آلود ایجاد می کند، اما همه وهم انگیزی ها صرفاً از طریق دره غیرعادی ایجاد نمی شوند). زاویه دیگر این است که احتمالاً گوی‌ها می‌توانند به گونه‌ای طراحی شوند که ظاهر کمتری به کره چشم داشته باشند و ظاهری روباتیک‌تر داشته باشند، یا اینکه همه ما ناگزیر ظاهر این گوی‌ها را می‌پذیریم و واکنش شگفت‌انگیز اولیه فروکش می‌کند.

3. AI Driving Actions Of Self-Driving Cars

بسیاری از آزمایش‌های امروزی خودروهای خودران نشان داده‌اند که سیستم‌های رانندگی هوش مصنوعی موجود به گونه‌ای برنامه‌ریزی شده‌اند که به روش‌های قانونی نسبتاً ملایم و تا حدودی کاملاً رعایت شده رانندگی کنند. سیستم رانندگی هوش مصنوعی معمولاً خودروی خودران را در تابلوهای Stop به طور کامل متوقف می کند. سیستم رانندگی هوش مصنوعی در زمانی که سیگنال ترافیک قریب‌الوقوع قرمز می‌شود، از میان تقاطع‌ها دویدن متهورانه انجام نمی‌دهد. این شیوه های رانندگی بیراهه، ولایت رانندگان انسان است.

در یک روش صحبت کردن، تقریباً می توانید حدس بزنید که یک ماشین خودران با توجه به سبک رانندگی که به نمایش می گذارد، یک ماشین خودران است. حتی اگر خودروی خودران از نظر بصری یک خودروی معمولی با هدایت انسان باشد، ممکن است اعمال رانندگی را مشاهده کنید و شاید منطقاً نتیجه بگیرید که احتمالاً توسط یک سیستم هوش مصنوعی هدایت می‌شود.

برخی بر این باورند که ما باید سیستم‌های رانندگی هوش مصنوعی را به گونه‌ای بسازیم که بیشتر شبیه رفتارهای مضحک رانندگان انسانی باشد تا به طور مؤثر با رویکردهای هنجاری رانندگی ترکیب شوند. من فکر می کنم شما می توانید این را به عنوان مبارزه با آتش با آتش تفسیر کنید.

آیا انجام این کار منطقی است؟

توجه داشته باشید که شکاکان و منتقدان صریح از این ایده بیزارند. آنها به شدت استدلال می‌کنند که ما می‌خواهیم سیستم‌های رانندگی هوش مصنوعی به درستی و جذاب رانندگی کنند. افزودن میلیون‌ها خودروی خودران به جاده‌ها که برنامه‌ریزی شده‌اند مانند رانندگان انسان خطاکار باشند، کابوس بزرگی به نظر می‌رسد. من در مورد این پیشنهاد بحث برانگیز بحث کرده ام پیوند اینجا.

بیایید با استفاده از دره عجیب و غریب، معضل را دوباره بسازیم.

هنگامی که سیستم رانندگی هوش مصنوعی به دلیل اقدامات رانندگی خود کاملاً قانونی است، این شاید یک سرنخ گویای این باشد که احتمالاً یک سیستم روباتیک است (با وجود رانندگان انسانی که مسلماً این کار را انجام می‌دهند، اگرچه در دنیای امروز به نظر می‌رسد که بسیار کم است). اگر قرار است سیستم‌های رانندگی هوش مصنوعی مانند رانندگان انسان عجیب و غریب رانندگی کنند، آیا این جهش از دره عجیب و غریب می‌گذرد یا به دره عجیب می‌افتد؟

آن یکی را در نظر بگیرید.

4. روبات هایی که به عنوان وسیله ای برای دستیابی به اتومبیل های خودران رانندگی می کنند

این آخرین مورد برای پوشش، شگفت‌انگیزترین مورد از این چهار مورد است.

ممکن است کاملاً غافل باشید که برخی از توسعه دهندگان هوش مصنوعی در حال تلاش برای ساخت ربات هایی هستند که ماشین ها را هدایت می کنند. این ربات از جنبه های مختلف شبیه یک انسان است و پاهای رباتیک و بازوهای رباتیک به عنوان اندام دارد. وقتی می‌خواهید هر خودروی متعارفی که توسط انسان هدایت می‌شود، یک خودروی خودران باشد، فقط این ربات رانندگی تخصصی هوش مصنوعی را در صندلی راننده خودروی خود قرار می‌دهید. تحلیل من از این مفهوم را در اینجا ببینید پیوند اینجا.

چرا ربات های رانندگی می خواهیم؟

زیبایی چنین رباتی در این است که تمام اتومبیل های امروزی که توسط انسان هدایت می شود می توانند تقریباً یک شبه به نوعی به اتومبیل های خودران تبدیل شوند. شما فقط یک ربات رانندگی می‌خرید، اجاره می‌دهید، یا به نوعی برای خود یک ربات رانندگی تهیه می‌کنید. هنگام رفتن به یک سفر رانندگی، ربات را روی صندلی راننده خود قرار می دهید. ربات شما را به مقصد می رساند. اگر می خواهید به رانندگی با انسان تغییر دهید، ربات را از وسیله نقلیه خارج می کنید، شاید آن را برای استفاده بعدی در صندوق عقب قرار دهید.

امروزه حدود 250 میلیون خودروی معمولی در ایالات متحده وجود دارد. برخی بر این باورند که با به وجود آمدن خودروهای خودران، این خودروها در نهایت از بین خواهند رفت. به جای اینکه آن ماشین‌های معمولی را دور ریخته کنیم، شاید سعی کنیم آنها را به ماشین‌های خودران تبدیل کنیم، اگرچه این احتمالاً یک ایده بسیار پرهزینه است. رویکرد به ظاهر محتاطانه تر، در دسترس قرار دادن ربات های رانندگی است.

اگر ماشینی را ببینید که ظاهری معمولی دارد از خیابان محله شما می آید و یک ربات در فرمان آن است، چه واکنشی نشان می دهید؟

به احتمال زیاد وهم آلود

یکی از ادعاهای مسلماً قابل بحث این است که این وهم‌آوری به دلیل این است که رباتی که ماشین معمولی را رانندگی می‌کند در دره نامتعارف معروف یا بدنام فرو می‌رود.

نتیجه

از دیدگاه هوش مصنوعی اخلاقی، دره عجیب و غریب معمای جالبی را ارائه می دهد.

برخی در هوش مصنوعی هستند که کاملاً به دره عجیب و غریب اعتقاد دارند و برخی دیگر باور ندارند. اما، چه به دره عجیب اعتقاد داشته باشید و چه این کار را انجام ندهید، با این وجود، خود موضوع در اطراف پیچیده است. شما نمی توانید سر خود را پنهان کنید و وانمود کنید که این سازه فی نفسه وجود ندارد. ساختار به عنوان یک ایده زنده است و در ظاهر به صورت ویروسی قدرتمند است. متنفر باشید یا دوستش داشته باشید، موضوع لعنتی یا شاید عالی همچنان ادامه دارد.

طبق گفتار قبلی من در مورد شایستگی های دره عجیب و غریب از دیدگاه اخلاق هوش مصنوعی، یک رابطه دوئلی عشق و نفرت در آن وجود دارد. آیا کسانی که در قلمرو هوش مصنوعی اخلاقی هستند، باید دره عجیب و غریب را بپذیرند، یا به طور خلاصه، دره غیرعادی را رد کنند، یا تا حدودی در مورد صحت بی‌طرف بمانند و در عوض روی تأثیری که به دلیل باورهای متفاوت در حال انجام در مورد آن ایجاد می‌شود، تمرکز کنند.

این چالش، اقتصاددان برجسته آدام اسمیت را به وجود می آورد، همانطور که یک بار گفته بود (با تفسیر) در جاده شهر شک و تردید، باید از دره ابهام عبور کنید.