دلایل تنظیم الگوریتم های هوش مصنوعی ساده تر از آن چیزی است که فکر می کنید

آیا نگران هستید که هوش مصنوعی جهان را تسخیر کند؟ خیلی ها انجام می دهند. از نگرانی ایلان ماسک ضرب و شتم DeepMind انسان ها در بازی پیشرفته Go در سال 2017، به اعضای کنگره، سیاستگذاران اروپایی (نگاه کنید به رویکرد اروپایی به هوش مصنوعی) و دانشگاهیان، این احساس وجود دارد که این دهه است که باید هوش مصنوعی را جدی بگیریم، و در حال گسترش است. اگرچه، نه به دلایلی که ممکن است فکر کنید و نه به دلیل تهدید فعلی.

اینجاست که الگوریتم ها وارد می شوند. شاید بپرسید الگوریتم چیست؟ ساده‌ترین راه برای فکر کردن به آن به عنوان مجموعه‌ای از دستورالعمل‌ها است که ماشین‌ها می‌توانند آن را بفهمند و از آن بیاموزند. ما قبلاً می‌توانیم به ماشین دستور دهیم که داده‌ها را محاسبه، پردازش کند و به روشی ساختاریافته و خودکار استدلال کند. با این حال، مشکل این است که به محض ارائه دستورالعمل‌های گفته شده، دستگاه از آنها پیروی می‌کند. در حال حاضر، این نکته است. برخلاف انسان ها، ماشین ها از دستورالعمل ها پیروی می کنند. آنها به این خوبی یاد نمی گیرند. اما زمانی که این کار را انجام دهند، ممکن است مشکلاتی ایجاد کنند.

من نمی‌خواهم یک استدلال هیجان‌انگیز در مورد این ایده که رایانه‌ها روزی از هوش انسانی پیشی می‌گیرند، که بیشتر به عنوان استدلال تکینگی شناخته می‌شود، مطرح کنم (به دیوید چالمرز، فیلسوف دانشگاه نیویورک مراجعه کنید. تفکرات در مورد موضوع.) در عوض، تولید ممکن است بهترین مثال برای اینکه چرا الگوریتم‌های هوش مصنوعی شروع به اهمیت بیشتری برای عموم کرده‌اند، باشد. می ترسید که ماشین ها به هزینه ما به قدرت خود سرعت بیشتری بخشند. نه لزوماً با برخی استدلال های پیشرفته، بلکه به دلیل بهینه سازی در محدوده آنچه یک الگوریتم می گوید.

تولید در مورد ساختن چیزهاست. اما وقتی ماشین‌ها چیزهایی می‌سازند، باید توجه کنیم. حتی اگر آنچه ماشین ها می سازند ساده باشد. من توضیح می دهم که چرا.

از چکمه های بارانی گرفته تا تلفن های همراه و پشت

بگو، یک کارخانه چکمه های بارانی درست کرده است. من عاشق چکمه های بارانی هستم زیرا در منطقه ای از نروژ بزرگ شدم که در آن باران زیادی می بارد. من دوست دارم بیرون باشم، تابع بسیاری از عناصر طبیعت. نوکیا چکمه های بارانی را که من با آن بزرگ شده بودم ساخت. بله، نوکیا که ما امروز به عنوان شرکت الکترونیکی می شناسیم از آن برای ساخت چکمه های لاستیکی استفاده می کرد. چرا این کلید است؟ زیرا زمانی که چیزی را ساختید، مقدر شده است که بخواهید پیشرفت کنید. این منطقی است. می توان گفت این طبیعت انسان است.

آنچه برای نوکیا اتفاق افتاد به خوبی شناخته شده است و تا حدودی به این صورت است: در ابتدا یک کارخانه کاغذسازی، زمانی که من بچه بودم، تولید چکمه‌های لاستیکی (و لاستیک‌ها) به ویژه برای شرکت موفق بود. با این حال، آنها فرصت های بیشتری را دیدند. از این رو، در مقطعی در دهه 1980، آنها به سمت الکترونیک رفتند و به سرعت کارخانه‌های اطراف را تغییر دادند و با شروع ساخت تلفن‌های همراه، ساختار بزرگی از تامین‌کنندگان محلی ایجاد کردند. این انقلاب ارتباطات سیار را آغاز کرد که از اسکاندیناوی شروع شد و به سایر نقاط جهان گسترش یافت. قابل درک است که بسیاری داستان نوکیا را در دهه 1990 نوشته اند (نگاه کنید به اسرار معجزه فنلاند: ظهور نوکیا).

مثال من ساده است. شاید خیلی ساده ولی اینجوری فکر کن اگر یک شرکت بزرگ بتواند به سرعت از تولید کاغذ برای نوشتن، به چکمه‌هایی که حضور در زیر باران را آسان‌تر می‌کند، تبدیل شود، در نهایت، به تلفن‌های همراهی که نحوه ارتباط انسان‌ها را تغییر می‌دهند: قدم بعدی چقدر آسان خواهد بود؟ فرض کنید شرکتی که تلفن‌های همراه تولید می‌کند، تصمیم می‌گیرد نانوربات‌ها را بسازد و شاید آن‌ها در یک دهه آینده شروع به کار کنند و بشریت را با ماشین‌های کوچکی که به‌طور مستقل در همه جا در حال اجرا هستند، تغییر دهند و بتوانند تجربه‌های انسانی را دوباره جمع‌آوری کرده و تغییر دهند. اگر بدون در نظر گرفتن اینکه چگونه می‌خواهیم اتفاق بیفتد، چه کسی می‌خواهیم مسئول باشیم و اهداف نهایی این اتفاق بیفتد، چه؟

پیشنهاد اینکه ربات‌ها آگاهانه به نوکیا کمک کردند تا تلفن‌های همراه را بسازد، دشوار است. اما اذعان به اینکه فناوری نقش مهمی در اجازه دادن به یک منطقه روستایی فنلاند در سواحل شمالی خود داشت تا فکر کند که می تواند در صنعت جدید تسلط جهانی پیدا کند، نقش مهمی ایفا می کند.

با توجه به اینکه نوکیا ظهور سیستم‌عامل‌های مبتنی بر نرم‌افزار iOS و اندروید را در نظر نگرفته است، داستان نوکیا در طول یک دهه اخیر چندان زیبا نبوده است. حالا در نتیجه نوکیا دیگر گوشی نمی‌سازد. در یک داستان بازگشتی، آنها اکنون زیرساخت های شبکه و مخابرات، راه حل های امنیتی شبکه، روترهای Wi-Fi، روشنایی هوشمند و تلویزیون های هوشمند را می سازند (نگاه کنید به داستان بازگشت نوکیا). نوکیا هنوز چیزهایی می سازد، این درست است. تنها نکته ای که باید انجام داد این است که به نظر می رسد نوکیا همیشه از مخلوط کردن چیزهایی که می سازد لذت می برد. حتی تصمیمات تولیدی انسان ها نیز در مواقعی به سختی قابل درک است.

تولید یعنی ساختن چیزها و چیزها در حال تکامل. به طور کلی، آنچه ما امروز می سازیم نسبت به یک دهه قبل تغییر کرده است. چاپگرهای سه بعدی تولید بسیاری از محصولات پیشرفته را چه در صنعت و چه در خانه غیرمتمرکز کرده اند. پیامدهای تغییر زندگی پرینت سه بعدی هنوز رخ نداده است. ما نمی دانیم که آیا این دوام خواهد داشت یا خیر، اما می دانیم که تمرکز FDA بر تنظیم مقررات تولید محصولات است (نگاه کنید به اینجا کلیک نمایید) مانند قرص‌های چاپی یا دستگاه‌های پزشکی که به‌وجود می‌آیند، مسائل مربوط به مالکیت معنوی و مسئولیت‌های آشکار، یا مسائل مربوط به امکان چاپ اسلحه گرم. در نهایت، بحث سیاست در مورد پیامدهای منفی پرینت سه بعدی فراتر از این وجود ندارد و تعداد کمی از ما به خود زحمت داده ایم که در مورد آن فکر کنیم.

من پیشنهاد نمی کنم چاپ سه بعدی به خودی خود خطرناک باشد. شاید این مثال بدی باشد. با این وجود، چیزهایی که در ابتدا پیش پا افتاده به نظر می رسند می توانند دنیا را تغییر دهند. نمونه‌های زیادی وجود دارد: نوک پیکان شکارچی/گردآورنده ساخته شده از فلز که جنگ‌ها را آغاز می‌کند، ماسک‌های تشریفاتی که از ما در برابر COVID-3 محافظت می‌کند، میخ‌هایی که آسمان‌خراش‌ها را می‌سازند، ماشین‌های چاپ متحرک که (هنوز) کارخانه‌های ما را با کاغذ چاپی پر می‌کنند و نیرو می‌دهند. کسب و کار نشر، لامپ هایی که به شما امکان می دهد شب ها داخل آن را ببینید و کار کنید، می توانم ادامه دهم. هیچ کس که من او را می شناسم در اواخر دهه 19 نشست و پیش بینی کرد که نوکیا تولید خود را از کاغذ به لاستیک به الکترونیک منتقل می کند و سپس از تلفن های همراه دور می شود. شاید باید داشته باشند.

انسان‌ها پیش‌بینی‌کننده‌های ضعیفی برای تغییر مرحله هستند، فرآیندی که در آن یک تغییر منجر به تغییرات بیشتر می‌شود، و ناگهان همه چیز کاملاً متفاوت است. ما هنوز این فرآیند را درک نکرده‌ایم زیرا دانش عملی کمی در مورد تغییرات تصاعدی داریم. ما نمی توانیم آن را به تصویر بکشیم، محاسبه کنیم یا آن را درک کنیم. با این حال، بارها و بارها به ما ضربه می زند. بیماری های همه گیر، رشد جمعیت، نوآوری های تکنولوژیکی از چاپ کتاب تا روباتیک، معمولاً بدون هشدار به ما ضربه می زند.

ترفند آینده پژوهی اگر نیست، بلکه زمانی است. در واقع می‌توان با انتخاب برخی روش‌های جدید تولید و بیان اینکه در آینده رایج‌تر خواهند شد، تغییر را پیش‌بینی کرد. به اندازه کافی ساده است. بخش دشوار این است که دقیقاً بفهمید چه زمانی و به خصوص چگونه.

گیره کاغذ مشکلی نیست

نمونه کارخانه من را دوباره در نظر بگیرید، اما این بار، تصور کنید که ماشین ها مسئول تصمیمات متعدد هستند، نه همه تصمیمات، بلکه تصمیمات تولید مانند بهینه سازی. در کتابش هوش فوق بشرینیک بوستروم، انسان‌گرای دیستوپیایی دانشگاه آکسفورد، یک الگوریتم بهینه‌سازی هوش مصنوعی را تصور کرد که کارخانه گیره‌های کاغذ را راه‌اندازی می‌کند. او می‌گوید، در نقطه‌ای تصور کنید که ماشین به این دلیل است که یادگیری منحرف کردن منابع روزافزون به سمت کار منطقی است، و در نهایت به تدریج دنیای ما را به گیره کاغذ تبدیل می‌کند و در مقابل تلاش‌های ما برای خاموش کردن آن مقاومت می‌کنیم.

با وجود اینکه یک پسر باهوش است، مثال Bostrom بسیار گنگ و گمراه کننده است (در عین حال، به یاد ماندنی). اولاً، او نمی تواند این واقعیت را توضیح دهد که انسان ها و روبات ها دیگر موجودات جداگانه ای نیستند. تعامل داریم. بیشتر ربات‌های باهوش در حال تبدیل شدن به ربات‌ها یا روبات‌های مشارکتی هستند. انسان ها شانس زیادی برای اصلاح دستگاه خواهند داشت. با این حال، نکته اساسی او همچنان باقی است. ممکن است در نقطه‌ای یک تغییر پله‌ای وجود داشته باشد، و اگر آن تغییر به اندازه کافی سریع و بدون نظارت کافی رخ دهد، ممکن است کنترل از بین برود. اما این نتیجه شدید کمی دور از ذهن به نظر می رسد. در هر صورت، موافقم، ما باید افرادی را که این ماشین‌ها را کار می‌کنند، تنظیم کنیم و با آموزش مناسب کارگران، همیشه در جریان باشند. این نوع آموزش خوب پیش نمی رود. در حال حاضر خیلی طول می کشد و هم برای آموزش و هم برای آموزش مهارت های تخصصی لازم است. من یک چیز را می دانم. در آینده همه نوع مردم ربات های عامل خواهند بود. کسانی که این کار را نمی کنند، بسیار ناتوان خواهند بود.

تقویت انسان بهتر از اتوماسیون بی فکر است، صرف نظر از اینکه هرگز به طور کامل با ماشین‌ها ادغام نمی‌شویم. این دو مفهوم از نظر منطقی متمایز هستند. این امکان وجود دارد که هم مردم و هم ربات ها به خاطر اتوماسیون در اتوماسیون گیر کنند. این آسیب بزرگی به تولید در آینده خواهد زد. حتی اگر ربات های قاتل تولید نکند. من معتقدم صدها سال با ادغام فاصله داریم، اما این موضوع نیست. حتی اگر سی سال دیگر فاصله داشته باشد، ماشین‌های خودکششی که بر اساس الگوریتم‌های ساده‌ای کار می‌کنند و کنترل خود را از دست می‌دهند، این سناریو از قبل در طبقه مغازه اتفاق می‌افتد. برخی از این ماشین‌ها سی ساله هستند و با سیستم‌های کنترلی قدیمی و اختصاصی کار می‌کنند. چالش اصلی آنها این نیست که آنها پیشرفته هستند، بلکه برعکس است. آنها خیلی ساده انگارانه هستند که نمی توانند ارتباط برقرار کنند. این مشکلی برای فردا نیست. این یک مشکل از قبل موجود است. ما باید چشمانمان را به روی آن باز کنیم. دفعه بعد که وارد چکمه های لاستیکی خود می شوید به این فکر کنید.

من هنوز چکمه های نوکیا را از دهه 1980 دارم. سوراخی در آنها وجود دارد، اما من آنها را نگه می دارم تا به خودم یادآوری کنم اهل کجا هستم و چقدر راه رفته ام. باران نیز به باریدن ادامه می‌دهد، و تا زمانی که به اندازه کافی تمیز باشد، نمی‌خواهم راه حلی بهتر از آن چکمه‌ها برای آن داشته باشم. پس دوباره، من یک انسان هستم. احتمالاً یک ربات قبلاً حرکت کرده است. من نمی دانم که نسخه هوش مصنوعی Rainboots چیست؟ تلفن همراه نیست. این سنسور باران نیست. ذهن را درگیر می کند.

چکمه‌های دیجیتال امروزه به این معنی است که می‌توانید آن‌ها را شخصی‌سازی کنید، زیرا طرح‌های چاپ سه‌بعدی روی خود دارند. کفش‌های مجازی وجود دارند که فقط به عنوان NFT (توکن‌های غیرقابل تعویض) وجود دارند که می‌توان آنها را فروخت و معامله کرد. برترین کفش‌های ورزشی مجازی این روزها 3 دلار ارزش دارند (نگاه کنید به کفش ورزشی NFT چیست و چرا 10,000 دلار ارزش دارد؟). من از آنها نمی ترسم اما آیا باید بترسم؟ اگر ارزش دنیای مجازی بیشتر از دنیای فیزیکی شود، شاید من این کار را بکنم. یا باید منتظر بمانم تا زمانی که آواتار خود هوش مصنوعی بوت NFT خودش را بخرد تا با "باران" مقابله کند؟ اگر الگوریتم‌هایی را مطابق تصویر خود بسازیم، به احتمال زیاد هوش مصنوعی در چیزهایی که ما آرزو می‌کردیم خوب بودیم اما معمولاً خوب نیستیم، مانند خرید سهام، ایجاد دوستی وفادار (شاید هم با ماشین‌ها و هم با انسان‌ها) و به خاطر سپردن آن‌ها خوب عمل کند. چیزها متاورس صنعتی ممکن است به طرز شگفت‌آوری پیچیده باشد - پر از دوقلوهای دیجیتالی که از دنیای ما تقلید می‌کنند و به روش‌های ثمربخش از آن پیشی می‌گیرند - یا ممکن است به‌طور تکان‌دهنده‌ای ساده باشد. شاید هر دو. ما فقط هنوز نمی دانیم.

ما باید الگوریتم‌های هوش مصنوعی را تنظیم کنیم، زیرا نمی‌دانیم چه چیزی در گوشه و کنار است. این دلیل کافی است، اما در مورد اینکه چگونه این کار را انجام دهیم، این یک داستان طولانی تر است. یک مشاهده سریع دیگر به من اجازه دهید، شاید همه الگوریتم های اساسی باید در دسترس عموم قرار گیرند. دلیل آن این است که اگر نه، راهی برای دانستن اینکه ممکن است به چه چیزی منجر شود وجود ندارد. برترین ها کاملاً شناخته شده هستند (نگاه کنید به 10 الگوریتم برتر یادگیری ماشین)، اما هیچ مروری در سراسر جهان درباره مکان و نحوه استفاده آنها وجود ندارد. به خصوص الگوریتم های بدون نظارت هستند که باید به دقت مورد بررسی قرار گیرند (نگاه کنید به شش مورد استفاده قدرتمند برای یادگیری ماشینی در تولید) چه برای پیش‌بینی نگهداری یا کیفیت، برای شبیه‌سازی محیط‌های تولید (مثلاً دوقلوهای دیجیتال)، یا برای ایجاد طرح‌های جدیدی که انسان هرگز به آن فکر نمی‌کند استفاده شود. در چشم انداز امروزی، این الگوریتم های بدون نظارت معمولاً به اصطلاح شبکه های عصبی مصنوعی هستند که سعی در تقلید از مغز انسان دارند.

من شروع به نگرانی در مورد شبکه های عصبی کرده ام، فقط به این دلیل که درک منطق آنها برایم سخت است. مشکل این است که اکثر متخصصان، حتی کسانی که آنها را به کار می‌گیرند، نمی‌دانند چگونه این الگوریتم‌ها از مرحله به مرحله یا لایه به لایه حرکت می‌کنند. من فکر نمی‌کنم استعاره «لایه‌های پنهان» که اغلب استفاده می‌شود، چندان مناسب یا خنده‌دار نباشد. برای شروع نباید هیچ لایه پنهانی در تولید، جمع‌آوری خودکار مالیات، تصمیم‌گیری در مورد استخدام، یا پذیرش دانشگاه وجود داشته باشد. شاید شما هم باید نگران باشید؟ یک چیز مسلم است، انسان ها و ماشین ها که با هم چیزهایی می سازند، دنیا را تغییر خواهند داد. قبلاً چندین برابر شده است. از کاغذ گرفته تا چکمه های بارانی، و لایه های مغز مصنوعی امروزی، هیچ چیز نباید ناشناخته باقی بماند. ما نباید از این واقعیت ساده پنهان بمانیم که از بسیاری از تغییرات کوچک، یک تغییر بزرگتر ناگهان ظاهر می شود.