در تسلا و دیگر شرکت‌های بزرگ فناوری، این ماشین‌ها نیستند، بلکه مفروضات پشت آن‌ها مشکل ایجاد می‌کنند.

فناوری‌های جدید همیشه افراد عصبی را بیرون می‌آورند. در سال 370 قبل از میلاد، افلاطون در کتاب خود به فکر فرو رفت Phaedrus که افزایش "گرایش" به سمت نوشتن باعث می شود مردان تمام خرد حفظ شده خود را از دست بدهند. در دهه 1880، دکمه های برقی از همه چیز می ترسیدند که همه ما را به این کار وادار کنند خلاقیت خود را از دست بدهیم اجازه می دهیم یک دکمه یک کار را برای ما انجام دهد. در نسل ما، ترس عمیقی وجود داشته است که هر گونه قرار گرفتن در معرض بازی های ویدیویی پوسیده شود مغز بچه ها. چنین نظریه هایی اغلب در نهایت اشتباه خود را ثابت می کنند. اما گاهی اوقات، آنچه ما امیدوار بودیم که در قلمرو علمی تخیلی باقی بماند به واقعیت تبدیل می شود.

ما دو یادآوری بسیار قوی در مورد خطرات پذیرش لجام گسیخته فناوری در چند ماه گذشته داشته ایم. بدترین کابوس‌های ما به حقیقت پیوست و به زندگی‌ها آسیب‌های جبران‌ناپذیری وارد شد:

• در عرض چند ساعت پس از اینکه ایلان ماسک، رهبر تسلا، خودروهای خودران خود را در توییتر تبلیغ کرد، یک تسلا در حالت رانندگی خودکار تصمیم گرفت از کنار پل خلیج، یک گذرگاه 4 لاین، با حرکت سریع، عبور کند. باعث تصادف 8 خودرو شد 9 نفر از جمله یک کودک 2 ساله مجروح شدند. این یکی از صدها تصادفی است که توسط سیستم های خودران تسلا ایجاد شده و منجر به آن شده است 19 مورد مرگ از سال 2016.
• رندال رید در حال رفتن به یک شام دیرهنگام شکرگزاری با مادرش بود که پلیس او را متوقف کرد و پس از یک هفته او را به زندان انداخت. نرم افزار تطبیق چهره او را به عنوان مظنون علامت گذاری کرده بود در یک پرونده سرقت کیف لوکس لوئیزیانا. تنها مشکل؟ او هرگز پا در ایالت نگذاشته بود. اما، این جوان 28 ساله ساکن جورجیا آفریقایی-آمریکایی است و نرم افزار تشخیص چهره به دلیل ناتوانی در تشخیص دقیق صورت سیاه پوستان به طور گسترده مورد انتقاد قرار گرفته است.

"آنها به من گفتند که من یک حکم از جفرسون پریش دارم. گفتم: «جفرسون پریش چیست؟» رید به AP اشاره کرد. من هرگز در عمرم یک روز به لوئیزیانا نرفته ام. بعد به من گفتند برای دزدی است. بنابراین نه تنها به لوئیزیانا نرفته ام، بلکه دزدی هم نمی کنم.»

شاید نه در دفاع از ایلان ماسک، اما برای توضیح، او اغلب اشاره کرده است هدف نوع دوستانه او این است که در نهایت با هوشمند کردن خودروها از انسان، تعداد تصادفات رانندگی و مرگ و میر را کاهش دهد. و اینکه برای هوشمندتر کردن آن خودروها، ممکن است نیاز به حرکت داشته باشند سریع (به معنای واقعی کلمه) و شکستن برخی چیزها (همچنین به معنای واقعی کلمه) در جاده های واقعی.

اینجاست که می‌توان با اهداف او - جاده‌های ایمن‌تر - همسو شد، اما روش‌های او - آزمایش‌های انسانی را به چالش کشید. ما از آزمایش دارو بر روی انسان‌ها خارج شدیم - بدون رضایت آنها، در مورد آلمان نازی و تاسکیگی "مطالعات" - برای موش ها، که نمی توانند رضایت دهند - در مورد صنایعی مانند لوازم آرایشی که یاد می گیرند چگونه محصولات را بدون هزینه جان، انسان، حیوان یا غیره آزمایش کنند. آیا می توان فناوری را بدون آسیب رساندن به مردم در طول مسیر آزمایش کرد؟ اینجاست که ما - و نهادهای نظارتی دولتی - می‌توانیم در مورد انواع آزمایش‌هایی که می‌خواهیم شهروندان خود را در معرض آن قرار دهیم، انتخاب کنیم.

و سپس در مورد هوش مصنوعی، نگرانی منطقی ابراز شده است که در زمینه تیم های فناوری که به طور کلی فاقد تنوع دنیای جهانی ما هستند، ابراز شده است. بیش از 85 درصد مردم در آسیا، آفریقا و آمریکای لاتین زندگی می کنند، وجود دارد احتمال آسیب قابل توجهی که در صورتی که فناوری ها قابل انجام است نمی توانند تنوع را در طرح های خود بگنجانند. افرادی مانند تیمنیت گبرو با سیاه در هوش مصنوعی در حال انجام کار سخت تلاش برای پاسخگو نگه داشتن مردم پشت دستگاه ها هستند اما این کار را انجام می دهند با بادهای مخالف زیادی مواجه شد با توجه به نیروهای اقتصادی که بسیاری از این تحقیقات را کنترل می کنند.

اگر ماشین های خودران را رد می کنیم، مجبور نیستیم به سراغ اسب ها و کالسکه ها برویم. کاری که ما می‌توانیم انجام دهیم، مدافع شعار فناوری جدید برای دهه آینده است: «آهسته حرکت کن و کمتر بشکن».

به طور مشابه، هرمانت تناجا در این مقاله نوشت کسب و کار هاروارد را نقد کنید، "حداقل محصولات قابل دوام" باید با "حداقل محصولات با فضیلت" جایگزین شود - پیشنهادهای جدیدی که تأثیر آن را بر سهامداران آزمایش می کند و در برابر آسیب های احتمالی محافظت می کند. او هشت سوال را ارائه می دهد که کارآفرینان فناوری امروز باید بپرسند، از جمله:

• آرزوی ایجاد چه تغییر سیستماتیک و اجتماعی با محصول خود را دارید؟
• چگونه فضیلت محصول خود را حفظ خواهید کرد؟
• چارچوب شما برای استفاده مسئولانه از داده ها و هوش مصنوعی چیست؟
• چگونه تنوع را در زمینه کسب و کار خود تعریف و ترویج می کنید؟

کارآفرینان می توانند در مورد این سؤالات برای محصولات خود فکر کنند. و سپس برای مصرف کنندگان، قبل از اینکه چهره خود را به جدیدترین، بهترین، سرویس تولید آواتار برگردانید، ممکن است عاقلانه باشد که دو بار فکر کنید که چگونه ممکن است دوباره شما را نیش بزند. ما نیازی به نادیده گرفتن فناوری نداریم - اما شاید بتوانیم یاد بگیریم که مصرف کنندگان بسیار آگاه تر فناوری باشیم.