آیا از هوش مصنوعی مولد مانند ChatGPT برای پر کردن اینترنت با دروغ‌های مستعد خطا استفاده خواهیم کرد؟
گیتی
آیا احتمالاً کتاب الهام بخش کودکان را می شناسید؟ غریب?
این کتاب دلربا توسط هلن پالمر (نام اصلی هلن پالمر گیزل) نوشته شده و بر اساس داستان کوتاهی از دکتر سوس (نام اصلی تئودور گیزل) نوشته شده است. تیم زن و شوهر سهمی افسانه‌ای در ادبیات کودکان ایجاد کرد و جوانان را در همه جا خوشحال کرد.
در صورتی که با طرح ناآشنا هستید یا نیاز به تجدید آن دارید، اجازه دهید به طور خلاصه خلاصه کنم. پسری از فروشگاه حیوانات خانگی محلی خود یک ماهی قرمز می خرد. به او اکیداً دستور داده شده که هرگز به این موجود کوچک دریایی بیش از حد غذا ندهد. شما هرگز نمی دانید اگر این کار را انجام دهید چه اتفاقی می افتد.
پسر به طور ناخواسته فقط یک بار به ماهی قرمز خود بیش از حد غذا می دهد، اما این باعث رشد خیره کننده ای می شود.
همه چیز شروع به رفتن کاملاً نامناسب می کند.
ماهی کوچک به سرعت از کاسه ماهی خود بزرگتر می شود و آنقدر بزرگ می شود که پسر حیوان خانگی مورد علاقه خود را داخل وان حمام در خانه می گذارد. ماهی به رشد و رشد خود ادامه می دهد. این به نظر غیرقابل توقف است.
به زودی پلیس و آتش نشانی به کمک پسر می آیند و ماهی قرمز را به اندازه فیل به استخر عمومی محلی منتقل می کنند. در نهایت، صاحب فروشگاه حیوانات خانگی از راه می رسد و موفق می شود ماهی قرمز را به اندازه عادی کوچک کند. ما نمی دانیم این شاهکار جادویی چگونه به دست آمده است. دوباره به پسر هشدار داده می شود که از غذا دادن بیش از حد خودداری کند.
درس آموخته شده، راه سخت.
در مورد آینده اینترنت شاید لازم باشد به همین درس دلخراش توجه کنیم.
چگونه است؟
واقعیت امروز این است که ما ممکن است نوعی از هوش مصنوعی (AI) ابداع کرده باشیم که قرار است اینترنت را با حجم عظیم و بی پایانی از داده ها پر کند. دست نوشته های زیادی وجود دارد هوش مصنوعی مولد، داغ ترین هوش مصنوعی در اخبار این روزها، این کار را انجام می دهد.
هوش مصنوعی مولد قادر است خروجی هایی مانند متن را با nary تولید یا تولید کند، فقط یک اعلان ساده که توسط کاربر انسانی وارد می شود. یک مقاله کامل و گسترده را می توان از طریق چند کلمه به خوبی انتخاب شده تولید کرد. ممکن است از هوش مصنوعی مولد به دلیل یک برنامه هوش مصنوعی بسیار محبوب به نام ChatGPT که در نوامبر توسط OpenAI منتشر شد، آگاه باشید. من به زودی در این مورد بیشتر خواهم گفت.
برخی به شدت هشدار داده اند که می توان از هوش مصنوعی مولد برای ایجاد حجم به ظاهر بی نهایت محتوا استفاده کرد.
یک فرد به راحتی می تواند از هوش مصنوعی مولد برای تولید هزاران مقاله صرفاً در یک جلسه آنلاین استفاده کند و این کار را با حداقل کار از سوی خود انجام دهد. سپس فرد می تواند مقالات تولید شده را در اینترنت پست کند. تصور کنید این کار در مقیاس انجام شود. در اصل، پیش بروید و این را در میلیون ها میلیون کاربر اینترنت ضرب کنید. یک سونامی واقعی از محتوای تولید شده را می توان به راحتی تولید و ارسال کرد.
آبکشی کنید، تکرار کنید، این کار را بی وقفه، روز به روز، دقیقه به دقیقه انجام دهید.
آیا این یک ادعای ترسناک آسمان در حال سقوط است یا شایستگی معتبری دارد؟
در ستون امروز، من به این نگرانی‌های ابراز شده می‌پردازم که ما با آینده‌ای با اینترنت کاملاً مسدود و غرق در محتوای هوش مصنوعی مولد روبرو هستیم. ما به اساس این تردیدها نگاه خواهیم کرد و برخی از جنبه های مثبت بالقوه را که معمولاً بیان نمی شوند، در نظر خواهیم گرفت. در طول این بحث من گهگاه به ChatGPT اشاره خواهم کرد، زیرا این گوریل 600 پوندی هوش مصنوعی مولد است، هرچند به خاطر داشته باشید که تعداد زیادی اپلیکیشن مولد هوش مصنوعی وجود دارد و آنها عموما بر اساس اصول کلی یکسانی هستند.
در همین حال، ممکن است تعجب کنید که در واقع هوش مصنوعی مولد چیست.
اجازه دهید ابتدا اصول هوش مصنوعی مولد را پوشش دهیم و سپس می‌توانیم نگاهی دقیق به موضوع مهم در دست داشته باشیم.
در همه این موارد، ملاحظات اخلاق هوش مصنوعی و قانون هوش مصنوعی وجود دارد.
لطفاً توجه داشته باشید که تلاش‌های مداومی برای تطبیق اصول هوش مصنوعی اخلاقی در توسعه و پیاده‌سازی برنامه‌های هوش مصنوعی وجود دارد. گروه رو به رشدی از متخصصان اخلاق هوش مصنوعی نگران و قدیمی در تلاش هستند تا اطمینان حاصل کنند که تلاش‌ها برای ابداع و پذیرش هوش مصنوعی، دیدگاهی از انجام دادن را در نظر می‌گیرد. هوش مصنوعی برای خوب و جلوگیری می کند هوش مصنوعی برای بد. به همین ترتیب، قوانین جدید هوش مصنوعی پیشنهاد شده است که به عنوان راه حل‌های بالقوه برای جلوگیری از ابهام کردن تلاش‌های هوش مصنوعی در مورد حقوق بشر و مواردی از این دست، مورد استفاده قرار می‌گیرند. برای پوشش مداوم و گسترده من از اخلاق هوش مصنوعی و قانون هوش مصنوعی، نگاه کنید به پیوند اینجا و پیوند اینجا، فقط به نام چند.
توسعه و انتشار دستورات هوش مصنوعی اخلاقی دنبال می‌شود تا از افتادن جامعه در تله‌های بی‌شمار هوش مصنوعی جلوگیری شود. برای پوشش من از اصول اخلاق هوش مصنوعی سازمان ملل متحد که توسط نزدیک به 200 کشور از طریق تلاش های یونسکو ابداع و حمایت شده است، نگاه کنید به پیوند اینجا. در همین راستا، قوانین جدید هوش مصنوعی در حال بررسی هستند تا سعی شود هوش مصنوعی در یک سطح یکنواخت باقی بماند. یکی از آخرین برداشت ها شامل مجموعه ای از پیشنهادات است منشور حقوق هوش مصنوعی که اخیراً کاخ سفید ایالات متحده برای شناسایی حقوق بشر در عصر هوش مصنوعی منتشر کرده است پیوند اینجا. دهکده ای لازم است تا توسعه دهندگان هوش مصنوعی و هوش مصنوعی را در مسیری درست نگه دارد و از تلاش های غفلت آمیز هدفمند یا تصادفی که ممکن است جامعه را تضعیف کند، بازدارد.
من ملاحظات مربوط به اخلاق هوش مصنوعی و قوانین هوش مصنوعی را در این بحث در هم می آمیزم.
مبانی هوش مصنوعی مولد
شناخته شده ترین نمونه هوش مصنوعی مولد توسط یک برنامه هوش مصنوعی به نام ChatGPT نشان داده می شود. ChatGPT در ماه نوامبر زمانی که توسط شرکت تحقیقاتی AI OpenAI منتشر شد، به آگاهی عمومی رسید. از زمانی که ChatGPT تیترهای بزرگی را به خود اختصاص داد و به طرز شگفت انگیزی از پانزده دقیقه شهرت خود فراتر رفت.
حدس می‌زنم احتمالاً نام ChatGPT را شنیده‌اید یا شاید کسی را بشناسید که از آن استفاده کرده است.
ChatGPT یک برنامه هوش مصنوعی مولد در نظر گرفته می شود زیرا مقداری متن را از یک کاربر و سپس به عنوان ورودی می گیرد تولید می کند یا خروجی ای تولید می کند که از یک مقاله تشکیل شده است. هوش مصنوعی یک تولیدکننده متن به متن است، اگرچه من هوش مصنوعی را به عنوان یک تولیدکننده متن به مقاله توصیف می‌کنم، زیرا به راحتی مشخص می‌کند که معمولاً برای چه مواردی از آن استفاده می‌شود. می‌توانید از هوش مصنوعی مولد برای نوشتن ترکیب‌های طولانی استفاده کنید یا می‌توانید آن را وادار کنید تا نظرات نسبتاً کوتاهی ارائه دهد. همه چیز به درخواست شماست.
تنها کاری که باید انجام دهید این است که یک درخواست وارد کنید و برنامه هوش مصنوعی برای شما مقاله ای ایجاد می کند که سعی می کند به درخواست شما پاسخ دهد. متن ساخته شده به نظر می رسد که گویی مقاله توسط دست و ذهن انسان نوشته شده است. اگر می‌خواهید پیامی را وارد کنید که می‌گوید «درباره آبراهام لینکلن به من بگویید»، هوش مصنوعی مولد مقاله‌ای درباره لینکلن در اختیار شما قرار می‌دهد. حالت های دیگری از هوش مصنوعی مولد وجود دارد، مانند تبدیل متن به هنر و متن به ویدئو. من در اینجا بر روی تغییر متن به متن تمرکز خواهم کرد.
اولین فکر شما ممکن است این باشد که این قابلیت مولد از نظر تولید مقاله چندان مهم به نظر نمی رسد. شما به راحتی می توانید یک جستجوی آنلاین در اینترنت انجام دهید و به راحتی هزاران مقاله در مورد رئیس جمهور لینکلن پیدا کنید. نکته مهم در مورد هوش مصنوعی مولد این است که مقاله تولید شده نسبتاً منحصر به فرد است و یک ترکیب اصلی را به جای یک کپی ارائه می دهد. اگر بخواهید مقاله تولید شده توسط هوش مصنوعی را در جایی آنلاین پیدا کنید، بعید است که آن را کشف کنید.
هوش مصنوعی مولد از قبل آموزش داده شده است و از یک فرمول پیچیده ریاضی و محاسباتی استفاده می کند که با بررسی الگوها در کلمات نوشته شده و داستان ها در سراسر وب تنظیم شده است. در نتیجه بررسی هزاران و میلیون‌ها متن نوشته شده، هوش مصنوعی می‌تواند مقالات و داستان‌های جدیدی را منتشر کند که ترکیبی از آنچه پیدا شده است. با افزودن عملکردهای احتمالی مختلف، متن حاصل در مقایسه با آنچه در مجموعه آموزشی استفاده شده است، تقریباً منحصر به فرد است.
نگرانی های زیادی در مورد هوش مصنوعی مولد وجود دارد.
یکی از نکات منفی مهم این است که مقالات تولید شده توسط یک برنامه هوش مصنوعی مبتنی بر مولد می‌توانند دارای کاذب‌های مختلفی باشند، از جمله حقایق آشکارا نادرست، حقایقی که به‌طور گمراه‌کننده به تصویر کشیده شده‌اند، و حقایق ظاهری که کاملاً ساختگی هستند. آن جنبه های ساختگی اغلب به عنوان شکلی از نامیده می شود توهمات هوش مصنوعیجملاتی که من از آن خوشم نمی‌آیند، اما به نظر می‌رسد که به هر حال با کمال تاسف در حال جلب توجه مردم است (برای توضیح دقیق من در مورد اینکه چرا این اصطلاحات بد و نامناسب است، به پوشش من در پیوند اینجا).
نگرانی دیگر این است که انسان‌ها به راحتی می‌توانند برای مقاله تولید شده توسط هوش مصنوعی اعتبار بگیرند، علیرغم اینکه خود مقاله را ننوشته‌اند. شاید شنیده باشید که معلمان و مدارس کاملاً نگران ظهور اپلیکیشن‌های هوش مصنوعی هستند. دانش آموزان به طور بالقوه می توانند از هوش مصنوعی مولد برای نوشتن مقالات اختصاص داده شده خود استفاده کنند. اگر دانش آموزی ادعا کند که مقاله ای با دست خودش نوشته شده است، احتمال کمی وجود دارد که معلم بتواند تشخیص دهد که آیا در عوض توسط هوش مصنوعی ساخته شده است یا خیر. برای تجزیه و تحلیل من از این جنبه گیج کننده دانش آموز و معلم، به پوشش من در اینجا مراجعه کنید پیوند اینجا و پیوند اینجا.
در مورد این موضوع در شبکه‌های اجتماعی ادعاهای بزرگی وجود دارد هوش مصنوعی مولد ادعا می کند که این آخرین نسخه از هوش مصنوعی در واقع است هوش مصنوعی حساس (نه، آنها اشتباه می کنند!). کسانی که در اخلاق هوش مصنوعی و قانون هوش مصنوعی هستند به طور مشخص نگران این روند رو به رشد ادعاهای گسترده هستند. ممکن است مودبانه بگویید که برخی افراد درباره آنچه که هوش مصنوعی امروزی واقعاً می تواند انجام دهد اغراق می کنند. آنها تصور می کنند که هوش مصنوعی دارای قابلیت هایی است که ما هنوز نتوانسته ایم به آنها دست پیدا کنیم. این مایه تاسف است. بدتر از آن، آنها می‌توانند به خود و دیگران اجازه دهند در موقعیت‌های وخیم قرار بگیرند، زیرا این تصور وجود دارد که هوش مصنوعی هوشیار یا انسان‌مانند خواهد بود تا بتواند اقدامی انجام دهد.
هوش مصنوعی را انسان سازی نکنید.
انجام این کار شما را در یک تله اتکای چسبناک و بی حوصله گرفتار می کند که انتظار دارید هوش مصنوعی کارهایی را انجام دهد که قادر به انجام آن نیست. با توجه به آنچه گفته شد، جدیدترین هوش مصنوعی مولد برای کارهایی که می تواند انجام دهد نسبتاً چشمگیر است. البته توجه داشته باشید که محدودیت های قابل توجهی وجود دارد که باید به طور مداوم هنگام استفاده از هر برنامه هوش مصنوعی مولد در نظر داشته باشید.
یک هشدار نهایی در حال حاضر.
هر آنچه را که در یک پاسخ هوش مصنوعی مولد می بینید یا می خوانید به نظر می رسد برای اینکه کاملاً واقعی باشد (تاریخ، مکان ها، افراد و غیره)، مطمئن شوید که شک دارید و مایل باشید آنچه را می بینید دوباره بررسی کنید.
بله، خرما را می توان جعل کرد، مکان ها را می توان ساخت، و عناصری که معمولاً انتظار داریم بیش از حد ملامت باشند. تمام در معرض سوء ظن آنچه را که می خوانید باور نکنید و هنگام بررسی هر مقاله یا خروجی هوش مصنوعی با شک و تردید نگاه کنید. اگر یک اپلیکیشن مولد هوش مصنوعی به شما بگوید که آبراهام لینکلن با جت شخصی خود در سراسر کشور پرواز کرده است، بدون شک متوجه خواهید شد که این یک بیماری ناخوشایند است. متأسفانه، برخی از مردم ممکن است متوجه نباشند که جت‌ها در زمان او وجود نداشتند، یا ممکن است بدانند اما متوجه این موضوع نشوند که این مقاله این ادعای گستاخانه و به‌شدت نادرست را دارد.
دوز قوی از شک و تردید سالم و ذهنیت ناباوری مداوم بهترین دارایی شما در هنگام استفاده از هوش مصنوعی مولد خواهد بود.
ما آماده هستیم تا وارد مرحله بعدی این شفاف سازی شویم.
نگاهی به آنچه که هوش مصنوعی مولد ممکن است با اینترنت انجام دهد
اکنون که شباهتی از هوش مصنوعی مولد دارید، می‌توانیم این سوال آزاردهنده را بررسی کنیم که آیا این نوع هوش مصنوعی از طریق نفخ اینترنت باعث هرج و مرج و بدبختی می‌شود.
در اینجا هشت موضوع حیاتی من در رابطه با این موضوع وجود دارد:
- 1) اندازه اینترنت
- 2) نمایه سازی اینترنت
- 3) سنجش محتوای تولید شده توسط هوش مصنوعی
- 4) به هر حال محتوای AI تولیدی چه مشکلی دارد
- 5) آیا مردم محتوای هوش مصنوعی تولیدی را در اینترنت ارسال می کنند؟
- 6) شاید رویکردهای Paywall مورد احترام قرار گیرند
- 7) هوش مصنوعی Morass Generative Multi-Modal در انتظار است
- 8) چرخه های شرور یا فضیلت آمیز هوش مصنوعی مولد
من هر یک از این موضوعات مهم را پوشش خواهم داد و ملاحظات کلیدی را ارائه خواهم کرد که همه ما باید با دقت در مورد آنها فکر کنیم. هر یک از این موضوعات بخشی جدایی ناپذیر از یک پازل بزرگتر است. شما نمی توانید فقط به یک قطعه نگاه کنید. همچنین نمی توانید به هیچ قطعه ای جدا از قطعات دیگر نگاه کنید.
این یک موزاییک پیچیده است و کل پازل باید به طور هماهنگ در نظر گرفته شود.
اندازه اینترنت
یکی از اولین جنبه هایی که باید در نظر گرفته شود، اندازه اینترنت است.
این امر به ویژه مهم است. ادعایی که در مورد هوش مصنوعی مولد مطرح می شود این است که ظاهراً اینترنت را به شدت تحت تأثیر قرار خواهد داد. ما به دلیل سهولت استفاده از هوش مصنوعی مولد برای تولید حجم عظیمی از مواد دیجیتال، انواع محتوای اضافه را خواهیم داشت. اگر چنین است، سؤال منطقی مستلزم این است که امروزه اینترنت چقدر بزرگ است، به همراه اینکه هوش مصنوعی مولد چقدر می‌تواند محتوای بیشتری تولید کند که در غیر این صورت در اینترنت وجود نداشت.
متأسفانه تلاش برای دستیابی به اندازه اینترنت بسیار دشوار و بسیار نادقیق است.
یک تخمین که در پست شد امور مالی آنلاین نشان می دهد که حجم اینترنت در حال حاضر حداقل 74 زتابایت (ZB) است و به طور بالقوه تا سال 463 به 2025 ZB می رسد (توجه داشته باشید که رشد پیش بینی شده به نظر نمی رسد که به طور صریح هوش مصنوعی را به عنوان یک عامل به خودی خود در نظر بگیرد و صرفاً همه موارد را در نظر بگیرد. else در استنتاج این پیش بینی برابر است).
تخمین های زیادی از اندازه موجود اینترنت وجود دارد. به همین ترتیب، تخمین های زیادی از رشد مورد انتظار در اندازه وجود دارد. من نمی‌خواهم درگیر بحث‌هایی بر سر چنین اعدادی شوم و فقط می‌خواهم تأکید کنم که اینترنت بدون شک از نظر اندازه بزرگ است. علاوه بر این، شایان ذکر است که همه انتظارات معقول این است که اینترنت، در روند عادی وقایع، بی‌وقار به مسیر رشد سرسام‌آور خود ادامه دهد.
همچنین ممکن است برای شما جالب باشد که Statista آمارهای مختلفی را ارسال کرده است که نشان می دهد در حال حاضر حدود 5.16 میلیارد کاربر اینترنت وجود دارد. این به عنوان نماینده 64.4٪ از جمعیت جهان محاسبه می شود. تعجب کردی؟ از یک طرف، ما ممکن است به طور طبیعی فرض کنیم که بیشتر مردم واقعاً در اینترنت هستند. اگرچه این امر از دیدگاه خودی تا حدودی منحرف است زیرا بسیاری از مردم دسترسی آماده به اینترنت ندارند یا در غیر این صورت قادر به دسترسی نیستند. در هر صورت، انتظار این است که دسترسی به اینترنت در نهایت ارزان تر شود و حتی گسترده تر شود، بنابراین تعداد کاربران اینترنت بدون شک افزایش خواهد یافت.
من شما را از طریق آن آمار می کشم تا ما را به یک سوال بسیار مهم برسانید.
هوش مصنوعی مولد چقدر به رشد موجود و مداوم اینترنت اضافه می کند؟
این چیزی است که ما می خواهیم بدانیم. می بینید، به نظر می رسد که ادعا در مورد تأثیرات هوش مصنوعی مولد کاملاً ظاهری است که البته هوش مصنوعی مولد اینترنت را سیل خواهد کرد. اگر به راحتی یا به صورت غافلانه از بحث در مورد اعداد واقعی و شمارش واقعی چیزها اجتناب کنید، همه اینها کمی دست تکان دادن است.
به عنوان مثال این فرض کلی را در نظر بگیرید که اندازه اینترنت تا حدودی حدود 100 ZB است و در حال رشد است. اگر فکر می‌کنید که هوش مصنوعی مولد احتمالاً 1 ZB در سال اضافه می‌کند، این یک افت در سطل بزرگی کلی اینترنت است.
هوش مصنوعی مولد شبیه به پاشیدن یک سنگریزه در یک اقیانوس وسیع است.
به نظر می رسد که این با روایت غالب در مورد این موضوع سنگین مطابقت ندارد. برخی مشتاقانه حدس می‌زنند که ممکن است در نهایت 10 درصد اینترنت بر مبنای «عادی» تولید شده توسط کاربر باشد و 90 درصد باقی‌مانده به دلیل محتوای تولید شده توسط هوش مصنوعی باشد.
به نظر نمی رسد که مبنای درستی برای این بحث وجود داشته باشد، ظاهراً از هوای رقیق ساخته شده است. به هر حال فرض کنید این اتفاق افتاده است. اگر 100 ZB موجود را به عنوان پایه در نظر بگیریم و فرض کنیم که اساساً تمام محتوای تولید شده توسط کاربر است (خوب، این قابل بحث است)، به این معنی است که باید خودمان را به دنبال اینترنت با اندازه 1,000 ZB بیابیم. این 900 ZB محتوای تولید شده توسط هوش مصنوعی و 100 ZB محتوای تولید شده توسط کاربر است.
ما می‌توانستیم اقیانوس محتوای فرضی دستی امروزی را در نظر بگیریم و آن را در مقایسه با کل دریاهای اینترنتی تولید شده توسط هوش مصنوعی کوچک‌تر کنیم.
حدس و گمان بر حدس و گمان
بنابراین، کدام باید باشد؟
آیا می‌خواهیم که هوش مصنوعی مولد یک سنگریزه تولید کند یا اینکه اندازه اینترنت را چند برابر خواهد کرد؟
هیچ کس نمی تواند در هر دو صورت با اطمینان بگوید. ما باید آن اعداد کلیدی را در یک مسیر جدی بررسی کنیم تا بحث در مورد موضوع ریشه در چیزی ملموس داشته باشد. انجام ندادن این کار باعث می شود که پچ پچ ها کمی مبهم و شبیه پسری باشد که گرگ گریه می کند.
بیایید عامل بعدی را در نظر بگیریم و در نظر داشته باشید که همه این عوامل به هم مرتبط هستند و باید به صورت جمعی و نه صرفاً فردی در نظر گرفته شوند.
نمایه سازی اینترنت
احتمالاً متوجه می‌شوید که وقتی جستجوی اینترنتی انجام می‌دهید، از موتور جستجوی شخصی استفاده می‌کنید که سعی کرده است به طور معمول محتوای اینترنت را فهرست کند. شرط می بندم که وقتی از یک موتور جستجوی محبوب استفاده می کنید، ممکن است این تصور را داشته باشید که به برتری اینترنت دسترسی پیدا می کنید.
خیلی بعید است
برخی تخمین ها حاکی از آن است که تنها بخشی از اینترنت نمایه شده است، شاید کمتر از 1٪ یا بیشتر (برخی می گویند تا 5٪ یا شاید کمی بالاتر است؛ در سطحی نیست که اکثر مردم به طور کلی تصور می کنند. 50٪ یا 90٪. باز هم، این اعداد متفاوت هستند، اما با این وجود نسبتاً بسیار کوچک هستند. نکته اصلی این است که شما تقریبا همیشه از بخش عظیمی از اینترنت بی اطلاع هستید.
چرا در این زمینه مهم است؟
زیرا محتوای اضافه‌شده‌ای که احتمالاً هوش مصنوعی مولد تولید می‌کند، به طور بالقوه مشمول یک بررسی نمایه‌سازی مشابه خواهد بود. ممکن است تقریباً هیچ یک از محتوای اضافه شده ایندکس نشود. در این صورت، احتمالاً هرگز آن را نخواهید دید.
روی دیگر سکه فرض می‌کند که چنین محتوای «مصنوعی» نمایه‌سازی می‌شود و با تأسف کم توجهی به محتوای «متعارف» انجام می‌شود. بحثی وجود دارد که ایندکس ها با محتوای مولد هوش مصنوعی مشغول هستند و از محتوای معمولی غفلت می کنند. بنابراین، حتی اگر محتوای AI تولیدی اینترنت را تحت تأثیر قرار ندهد، به نظر می رسد که به دلیل نمایه سازی نامتناسب چنین محتوایی است.
در پایان، ممکن است تلاش برای یافتن محتوای معمولی مانند تلاش برای یافتن سوزنی در انبار کاه باشد. به هم ریختگی عظیم محتوای تولید شده توسط هوش مصنوعی شبیه به عدل های بزرگ و گسترده یونجه خواهد بود. اگر بتوانید آنها را پیدا کنید، جایی در آن جواهرات گران‌بها از محتوای معمولی وجود خواهد داشت.
ممکن است فوراً به این فکر کنید که شاخص‌سازان باید به دنبال چگونگی مقابله با این معضل باشند. اگر آنها بتوانند نمایه سازی را به "روش صحیح" انجام دهند، تقریباً مهم نیست که چقدر محتوای مولد هوش مصنوعی تولید می شود. در خیابان‌های فرعی و کوچه‌های اینترنت می‌نشیند و به‌طور خاص نور روز را نمی‌بیند.
بیایید به کاوش خود ادامه دهیم تا ببینیم چگونه این مشکل نمایه سازی بیشتر ایجاد می شود.
سنجش محتوای تولید شده توسط هوش مصنوعی چیست
بسیار خوب، اگر هوش مصنوعی مولد قرار است به شدت وحشی شود و هزاران تن محتوای اینترنتی تولید کند، منطقاً تا زمانی که بتوانیم چنین محتوایی را از محتوای «متعارف» تشخیص دهیم، می‌توانیم با این موضوع کنار بیاییم.
به عنوان یک راه حل آسان به نظر می رسد.
هر موتور جستجویی که نمایه‌سازی می‌کند، صرفاً تشخیص می‌دهد که آیا محتوا تولید شده توسط هوش مصنوعی تولید شده در مقایسه با تولید معمولی است یا خیر. سپس این نمایه می تواند مواد هوش مصنوعی مولد را در بر نگیرد یا در نمایه مشخص کند که محتوا از هوش مصنوعی مولد است. سپس کاربران چنین موتور جستجویی می‌توانند در طول جستجو مشخص کنند که آیا می‌خواهند محتوای تولیدشده هوش مصنوعی را در بر گیرند یا از آن صرفنظر کنند.
پرونده بسته شد.
متاسفم که می گویم این به خصوص قابل اجرا نیست.
به همین دلیل است
تلاش برای تشخیص خروجی‌های هوش مصنوعی از محتوای معمولی آسان نیست و تقریباً در نهایت غیرعملی است. من در ستون خود گفته‌ام که آن برنامه‌های شناسایی ادعایی وعده‌ای دروغین و اساساً یک شوخی گمراه‌کننده هستند. پیوند اینجا.
به طور خلاصه، سازندگان هوش مصنوعی هوش مصنوعی مولد به تقویت هوش مصنوعی خود ادامه می‌دهند تا محتوایی تولید کنند که با طراحی غیرقابل تمایز از محتوای معمولی تولید شده توسط انسان باشد. این یک هدف عمدی است. برنامه‌های تشخیص با یک بازی موش و گربه مداوم روبرو هستند. علاوه بر این، این برنامه‌های تشخیص بر اساس همه فرضیات در مورد آنچه که خروجی‌های هوش مصنوعی مولد را متمایز می‌کند، هستند، اگرچه این فرضیات اغلب نادرست هستند یا فقط بر اساس احتمالات هستند. نتیجه نهایی این است که هر برنامه تشخیصی فقط احتمال آن را حدس می‌زند و نمی‌تواند مطمئناً نشانه‌های آهنی ایجاد کند.
نکته اصلی این است که بعید است بتوانیم محتوای هوش مصنوعی مولد را تعیین کنیم، مگر اینکه نشانه روشنی از سوی ارائه‌دهنده هوش مصنوعی مولد ارائه شده باشد، هرچند که این موضوع نیز مبهم نیست. مجدداً، پوشش من از این موضوع پیچیده را ببینید که در آن بحث شده است پیوند اینجا. ایده ای که دنبال می شود این است که یک واترمارک مخفیانه در محتوای تولید شده گنجانده شود. در تئوری می‌توانید از واترمارک برای تشخیص اینکه آیا محتوا از طریق هوش مصنوعی مولد است یا خیر استفاده کنید. نقطه ضعف این است که با تغییرات مختلف در خروجی، خراب کردن واترمارک نسبتا آسان خواهد بود. سپس محتوا از واترمارک پیروی نمی کند و تابلویی که قرار بود به ما نشان دهد اکنون شکست خورده است.
برخی معتقدند که برای مقابله با این موضوع به قوانین جدید هوش مصنوعی نیاز داریم. قوانینی وضع کنید که برنامه های هوش مصنوعی مولد را ملزم به گنجاندن واترمارک کند. علاوه بر این، تلاش برای شکست دادن آن واترمارک ها را غیرقانونی کنید. این ممکن است تنها وسیله ای باشد برای محدود کردن آن بازی های گربه و موش فنی. من آن پیشنهادات را در ستون خود بررسی کرده‌ام و به این نکته اشاره کرده‌ام که اگرچه احکام منطقی به نظر می‌رسند، اما شیطان در جزئیات اجرای این طرح‌ها و اجرای این سیاست‌ها است.
در مجموع، با بازگشت به نگرانی‌ها در مورد نفخ‌کردن اینترنت از طریق محتوای هوش مصنوعی تولیدی، متأسفانه نمی‌توانیم این مشکل را با توجه به محتوای مولد هوش مصنوعی در مقابل آنچه که نیست برطرف کنیم. مشکل از این سخت تر است.
به هر حال محتوای AI تولیدی چه مشکلی دارد
همه این نگرانی ها در مورد سونامی محتوای تولید شده توسط هوش مصنوعی معمولاً بر اساس یک فرض نسبتاً اساسی است، یعنی اینکه محتوا معیوب خواهد بود.
اگر محتوا خوب است، احتمالاً باید از پست‌های اضافه شده به اینترنت خرسند باشیم. مطمئناً، حجم ممکن است زیاد باشد، اما اگر اطلاعاتی که پست می‌شوند ارزشمند هستند، صرفاً داشتن چیزهای خوب بیشتر برای غربال کردن است. همانطور که می گویند هر چه بیشتر بهتر است.
ملاحظات کلیدی مستلزم این است که آیا محتوای تولید شده با هوش مصنوعی آموزنده خواهد بود یا نه ممکن است مملو از خطاها، نادرست ها، اطلاعات نادرست، اطلاعات نادرست و موارد مشابه باشد. این چند وجه را نشان می دهد.
اولاً، ممکن است هوش مصنوعی مولد به گونه‌ای پیشرفت کند که شانس تولید مقاله‌های نادرست بسیار کم باشد. اگر بخواهیم به نحوی از انتشار اینترنت تمام هوش مصنوعی مولد جلوگیری کنیم، ظاهراً نادیده انگاشته می‌شویم، با این فرض که به طور کلی، مقاله‌های تولیدشده توسط هوش مصنوعی در بیشتر موارد یا غالب زمان‌ها به طور منطقی درست هستند. مایل به رد کردن همه مقاله های خروجی شبیه به پرتاب کردن کودک با آب حمام کلاسیک است (یک ضرب المثل قدیمی، احتمالاً در آستانه بازنشستگی).
دوم، همانطور که در ستون خود در مورد بحث قرار داده ام پیوند اینجا، علاقه فزاینده ای به برنامه های افزودنی هوش مصنوعی وجود دارد که می توانند مقالات تولیدی با هوش مصنوعی را بررسی مجدد کنند. چک‌کننده‌های دوگانه هوش مصنوعی را می‌توان قبل از ارسال محتوای تولیدی هوش مصنوعی در اینترنت مورد استفاده قرار داد. حتی اگر افراد محتوایی را که می‌خواهند پست کنند از قبل بررسی نمی‌کنند، می‌توان از همان ابزارها در محتوای قبلاً ارسال شده استفاده کرد. به طور خلاصه، بررسی مضاعف می‌تواند بدون توجه به منبع محتوا انجام شود، به طوری که طبیعتاً باید به محتوای تولید شده توسط انسان نیز مشکوک باشیم.
سوم، همانطور که در نکته فوق الذکر به آن اشاره شد، اغلب به نظر می رسد این باور این است که محتوای تولید شده توسط انسان همیشه خوب است، در حالی که محتوای تولیدی هوش مصنوعی همیشه بد است. یک فرضیه نادرست مقدار زیادی محتوای تولید شده توسط انسان وجود دارد که حاوی انواع خطاها، نادرست‌ها و آشغال‌های ساختگی است. ما صرفاً به این دلیل که یک انسان اتفاقاً محتوا را با دست تولید می کند، ایمن نیستیم.
همه محتواها، چه ابداع شده توسط انسان یا ابداع شده توسط هوش مصنوعی، باید مورد بررسی دقیق قرار گیرند.
آیا مردم محتوای تولیدی هوش مصنوعی را در اینترنت ارسال خواهند کرد؟
عامل دیگری که باید در نظر گرفت این است که آیا مردم واقعاً محتوای هوش مصنوعی تولیدی را در اینترنت پست می‌کنند یا خیر، و اگر چنین است، با چه میزانی.
در اینجا منظورم چیست؟
مردم از هوش مصنوعی مولد مانند ChatGPT برای اهداف مختلف استفاده می کنند. آنها ممکن است از هوش مصنوعی مولد برای تحریک ایده هایی در مورد مشکلی که با آن روبرو هستند استفاده کنند. آنها ممکن است از آن برای انجام تحقیقات استفاده کنند. آنها ممکن است از آن برای ارائه پیش نویس مطالبی که قصد ویرایش آن را دارند استفاده کنند و سپس آن را از طریق ایمیل برای شخصی ارسال کنند. و غیره.
نکته اصلی این است که بسیاری از استفاده از هوش مصنوعی مولد ممکن است هیچ ربطی به کسی نداشته باشد که قصد دارد مقالات خروجی حاصل را در اینترنت پست کند. به نظر می رسد ما اغلب در این دام می افتیم که فقط به این دلیل که فردی از هوش مصنوعی مولد استفاده می کند، مایل است اینترنت را با خروجی های تولید شده پر کند.
ما هنوز نمی دانیم که افراد در چه مدت زمانی از هوش مصنوعی مولد برای مصارف خود استفاده می کنند و بنابراین ترجیح می دهند نه خروجی ها را به اینترنت ارسال کنید
برای روشن‌تر شدن، من پیشنهاد نمی‌کنم که مردم خروجی‌های هوش مصنوعی مولد را در اینترنت ارسال نکنند. آنها مطمئناً این کار را خواهند کرد. افرادی که وبلاگ های آنلاین انجام می دهند بدون شک از هوش مصنوعی مولد استفاده خواهند کرد. بسیاری از کاربردهای هوش مصنوعی مولد برای تولید محتوا برای اینترنت مطمئناً رخ خواهد داد. و غیره.
بنابراین، یکی از ملاحظات این است که ممکن است آنقدر محتوای مولد هوش مصنوعی که در اینترنت پست می‌شود، نداشته باشیم که در غیر این صورت تصور می‌شود این اتفاق می‌افتد. برای آن دسته از صاحبنظرانی که فرض می‌کنند ما به دنبال یک آخرالزمان بی‌وقفه و تمام دستی هستیم که داده‌ها را ارسال می‌کند، نمی‌دانیم که آیا این چیزی است که قرار است اتفاق بیفتد یا خیر. البته، حتی اگر تعداد معدودی از مردم چنین پست‌هایی را انجام دهند، باز هم می‌تواند حجم عظیمی از محتوای اضافه شده در اینترنت باشد.
یک پیچ و تاب این است که آیا خروجی های مولد هوش مصنوعی به طور بالقوه به طور خودکار در اینترنت ارسال می شوند یا خیر.
این یک ترفند آسان برای انجام است. شما به سادگی می توانید آن را طوری بسازید که هر خروجی از برنامه هوش مصنوعی مولد شما فوراً در اینترنت پست شود. شما حتی می توانید این را در یک حلقه قرار دهید. یک سری دستورات از قبل آماده شده داشته باشید. آنها را به یک برنامه هوش مصنوعی مولد تغذیه کنید. برنامه هوش مصنوعی مولد طوری برنامه ریزی شده است که مقالات خروجی را فوراً در اینترنت پست کند.
Voila، شما یک ماشین حرکت دائمی برای تولید محتوای داده برای اینترنت دارید.
با این حال، پست ها به کجا می روند؟
هر وب‌سایت یا سایر مکان‌های آنلاینی که اجازه ارسال این نوع محتوای پرتاب مسلسل را می‌دهند، به طور بالقوه در قبال آنچه اجازه ایجاد می‌کنند پاسخگو خواهند بود. احتمالاً مردم از آن سایت ها اجتناب خواهند کرد. یا آن سایت ها توسط موتورهای جستجو و الگوریتم های نمایه سازی اختصاص داده می شوند. جنبه ای که محتوای هوش مصنوعی مولد پست می شود یک جنبه است، در حالی که جنبه دیگر به همان اندازه مهم این است که پست ها در کجا قرار می گیرند.
شاید رویکردهای Paywall مورد احترام قرار گیرند
یک ادعای رایج این است که ما در نهایت از غرب وحشی اینترنت خسته خواهیم شد. مردم به سمت منابع آنلاین قابل اعتماد جذب خواهند شد. آنها عمداً از سایر مناطق ناشناخته یا ناشناخته اینترنت اجتناب می کنند.
در همین راستا، این تفکر وجود دارد که مردم مایل به پرداخت هزینه برای دسترسی به منابع قابل اعتماد هستند. در حالی که امروزه هنوز بحث زیادی در مورد سودآوری محتوای paywalled وجود دارد، سیل محتوای مولد AI به عنوان یک موهبت برای فلسفه paywall در نظر گرفته می شود. هرچه اوضاع از نظر یافتن محتوای قابل اعتماد در اینترنت بدتر شود، محتوای paywalled ارزشمندتر می شود (البته با این فرض که محتوای paywalled با دقت بیشتری بررسی می شود).
طنز تا حدی این است که محتوای پشت دیوار پرداخت ممکن است به شدت از محتوای تولید شده توسط هوش مصنوعی تشکیل شده باشد. با فرض اینکه ارزش افزوده این است که ارائه‌دهنده paywall محتوا را بررسی می‌کند، آنها اساساً بررسی مضاعفی را انجام می‌دهند که قبلاً ذکر کردم. آنها لزوماً نیازی به تولید محتوا ندارند. آنها فقط باید اطمینان حاصل کنند که محتوا ارزش اعتماد دارد.
در مورد این آینده پیش بینی شده اختلاف نظر وجود دارد. شاید به جای دیوارهای پرداخت، مجبور شوید با تبلیغات یا اعلان‌های حامیان مالی مواجه شوید و این کار شما را به محتوای قابل اعتماد می‌رساند. بسیاری از احتمالات دیگر وجود دارد.
Morass Multi-Modal Of Generative AI در انتظار است
من در اینجا بر روی هوش مصنوعی مولد مرتبط با متن تمرکز کرده ام. این نوع تبدیل متن به متن یا متن به مقاله از هوش مصنوعی مولد، مانند ChatGPT است.
یکی از پیش‌بینی‌های من این بود که به زودی خود را در هوش مصنوعی مولد چندوجهی غرق خواهیم کرد، توضیح من را در اینجا ببینید. پیوند اینجا. ما در حال حاضر شاهد تبدیل متن به تصویر، متن به صدا، متن به ویدئو و انواع دیگر انواع یا حالت‌های نتایج خروجی از هوش مصنوعی هستیم. مرحله بعدی این است که شما قادر خواهید بود خروجی های چند وجهی دریافت کنید.
به عنوان مثال، شما یک درخواست را در هوش مصنوعی مولد وارد می کنید و در مورد آبراهام لینکلن سوال می کنید. هوش مصنوعی مولد یک مقاله برای شما تولید می کند. علاوه بر این، چندین تصویر از لینکلن تولید می‌شود که او را در حالت‌هایی نشان می‌دهد که تاکنون پست یا منتشر نشده بود. یک رونوشت صوتی تولید می‌شود که صدایی شبیه لینکلن دارد. ویدئویی تولید می‌شود که مقاله را به نمایش می‌گذارد، از جمله مونتاژی از تصاویر و تصاویر که همراه با متن خروجی است.
به دنیای هوش مصنوعی مولد چند وجهی خوش آمدید.
هیجان انگیز، مطمئنا.
اما اگر فکر می‌کنید که این محتوایی است که می‌تواند در اینترنت پست شود، چندان هیجان‌انگیز نباشد.
در اصل، ما صرفاً در مورد متنی که ممکن است اشتباه باشد نگران نخواهیم بود، همچنین باید همین کار را برای سایر حالت‌های خروجی انجام دهیم. فایل‌های صوتی باید مظنون شوند که حاوی نادرستی هستند، تصاویر ممکن است به اشتباه مسائل را به تصویر بکشند، و ویدیوها نیز نگران‌کننده خواهند بود.
اگر قبلاً در محاسبات خود در مورد نفخ شدن اینترنت، آتش سوزی چند وجهی را در نظر نگرفته بودید، ممکن است بخواهید اعداد و دست نوشته های خود را افزایش دهید.
چرخه های شرور یا فضیلت آمیز هوش مصنوعی مولد
من یک عامل برای شما دارم که ممکن است کمی ذهن شما را خم کند. صبر کن.
در این حماسه اینترنت غرق شده، ما فرض می کنیم که هوش مصنوعی مولد شرور است. هوش مصنوعی مولد نحوه تولید این همه محتوای مستعد خطا و ساختگی است. هوش مصنوعی مولد برای استخوان مضر است.
با این حال، فرض کنید که ما به این موضوع از دید دیگری نگاه می کنیم.
ممکن است هوش مصنوعی مولد بتواند دقیق ترین و قوی ترین محتوای معتبر را تولید کند. در همین حال، محتوای تولید شده توسط دست انسان به عنوان بسیار کمتر قابل اعتماد تفسیر می شود. هوش مصنوعی مولد به عنوان یک بدجنس تبدیل به هوش مصنوعی مولد به عنوان قهرمان می شود.
راجع بهش فکر کن.
من یک پیچ و تاب سرگرم کننده دیگر برای شما دارم.
بیایید فرض کنیم که هوش مصنوعی مولد در حال آموزش داده از طریق محتوایی است که در اینترنت است. اگر این فرض را هم داشته باشیم که محتوای مولد هوش مصنوعی یا با انتخاب انسان مستقیماً یا از طریق مکانیزم خودکار در اینترنت پست می‌شود، خود را در یک چرخه جذاب می‌یابیم.
محتوای تولید شده توسط هوش مصنوعی مولد به منبعی برای آموزش داده های بیشتر در هوش مصنوعی مولد تبدیل می شود. یک مارپیچ رخ می دهد. محتوای تولید شده با هوش مصنوعی بیشتر و بیشتر در اینترنت پست می شود که بر اساس آموزش داده های محتوایی است که قبلاً توسط هوش مصنوعی تولید شده است.
این محفظه پژواک «تغذیه هوش مصنوعی مولد به هوش مصنوعی مولد» در نهایت با اینترنت و نوع بشر چه می کند؟
یک دیدگاه این است که این یک مسابقه وحشتناک به سمت پایین است. خطاها در خروجی های AI مولد بزرگ می شوند. هر تکرار جدید هوش مصنوعی مولد، خطاهای قبلی را مصرف می کند و آنها را دوباره و دوباره تکرار می کند. در برخی مواقع، شانس فهمیدن اینکه خطاها کجا هستند، دلهره آور خواهد بود. ناامید کننده ناامید کننده.
دیدگاه دیگر این است که اگر بتوان هوش مصنوعی مولد را برای تولید خروجی های معتبر ابداع کرد، ممکن است مکانیزم تمیز کردن اینترنت داشته باشید که به تقویت اینترنت کمک می کند. هنگامی که هوش مصنوعی مولد با چیزی اشتباه روبرو می شود، چه توسط هوش مصنوعی یا دست انسان تولید شده باشد، هوش مصنوعی مولد ظاهراً این نادرستی را تشخیص داده و بر آن غلبه خواهد کرد. با انجام بارها و بارها این کار توسط هوش مصنوعی مولد، گویی دائماً در حال چمن زنی هستید و به طور موثری از ماهیت و برجستگی علف های هرز می کاهد.
این ممکن است اطمینان‌بخش به نظر برسد، به جز این سوال بزرگ و پیشرو در مورد اینکه دقیقاً چه چیزی اشتباه یا دروغ را تشکیل می‌دهد. این دستگاه شستشو می‌تواند به‌طور ناخواسته باعث تحقیر محتوای معتبر یا متهم شدن نادرست به خطا شود. هنگام در نظر گرفتن این نوع مکانیسم ها باید به آن نکات مثبت و منفی کاذب توجه داشته باشیم.
آیا هوش مصنوعی مولد یک چرخه معیوب خواهد بود یا یک چرخه فضیلت؟
زمان خواهد شد بگویید.
نتیجه
توصیه های متعدد و گاه وحشتناک در مورد هجوم هوش مصنوعی مولد اینترنت باید به دقت مورد بررسی قرار گیرد. سناریوهای زیادی را می توان به راحتی تصور کرد. عذاب و غم تنها راه نیست. هرکسی که ادعا می‌کند پیش‌بینی می‌کند چه اتفاقی می‌افتد، باید پیش‌فرض‌هایی را که می‌کنند، پیش‌بینی کند.
عوامل کاهش دهنده ای وجود دارد که تعیین می کند آینده هوش مصنوعی مولد به کجا خواهد رفت. اخلاق هوش مصنوعی و قانون هوش مصنوعی، همراه با ادراکات کلی جامعه به طور کلی، در این امر نقش تعیین کننده ای خواهند داشت.
نکته پایانی فعلا
مارکوس اورلیوس معروف است: «هرگز اجازه نده آینده شما را آزار دهد. اگر مجبور باشید با همان سلاح های عقلی که امروز شما را در برابر زمان حال مسلح می کند، با آن روبرو خواهید شد.»
بیایید مطمئن شویم که استدلال امروز ما می تواند با چالش های آینده پر از هوش مصنوعی مقابله کند.
منبع: https://www.forbes.com/sites/lanceeliot/2023/02/23/is-it-true-that-generative-ai-chatgpt-will-flood-the-internet-with-infinite-content- می پرسد - اخلاق - و - قانون /