فن آوری

سام آلتمن، مدیر عامل OpenAI در جلسه استماع "تاریخی" سنا در مورد ایمنی هوش مصنوعی شهادت می دهد

ماه 12 پیش
اخبار بیت کوین اتریوم

سام آلتمن، مدیر عامل OpenAI و یکی از بنیانگذاران Worldcoin، اخیراً در کنار کریستینا مونتگومری، رئیس اعتماد IBM، و گری مارکوس، استاد دانشگاه نیویورک، در مقابل کنگره شهادت داده است. 

جلسه کمیته فرعی حریم خصوصی، فناوری و قانون قوه قضائیه سنا نشان دهنده اولین حضور رسمی آلتمن در مقابل کنگره بود و به سناتورها این فرصت را داد تا از مدیر عامل OpenAI در مورد دیدگاه های شرکتش در مورد مقررات سوال کنند.

این جلسه که توسط سناتور دیک دوربین، یک جلسه «تاریخی» نامیده شد، بر درک تهدیدات بالقوه ناشی از مدل‌های هوش مصنوعی مولد مانند ChatGPT و نحوه برخورد قانونگذاران با مقررات متمرکز شد.

به نظر می رسد اظهارات آلتمن - که توسط اعضای کنگره و همکار مارکوس، صادقانه و واقعی به نظر می رسد - چندین عضو سنا را غافلگیر کرده است.

او از ایجاد یک آژانس نظارت فدرال با اختیار صدور و لغو مجوزهای توسعه حمایت کرد، اظهار داشت که معتقد است سازندگان باید در صورت استفاده از کارشان برای آموزش یک سیستم هوش مصنوعی غرامت دریافت کنند و موافقت کرد که مصرف‌کنندگانی که با استفاده از محصولات هوش مصنوعی متضرر می‌شوند باید جبران شوند. حق شکایت از توسعه دهنده را دارد.

آلتمن با بیان اینکه OpenAI بیش از شش ماه را برای ارزیابی GPT صرف کرده است، سؤالات مربوط به نامه اخیر "مکث هوش مصنوعی" را که خواستار توقف شش ماهه استقرار سیستم های قدرتمندتر از GPT-4، سیستم هوش مصنوعی زیربنای ChatGPT بود، کنار گذاشت. -4 قبل از استقرار او گفت که این شرکت هیچ برنامه ای برای استقرار مدل دیگری در شش ماه آینده ندارد.

مارکوس، یکی از امضاکنندگان نامه مکث، اعتراف کرد که بیشتر با روح نامه موافق است تا محتوای آن، اما استاد دانشگاه نیویورک از کنگره خواست تا نظارت جهانی و همچنین مقررات فدرال را در نظر بگیرد - احساسی که آلتمن با آن موافق بود.

در طول جلسه، سه سخنران میهمان در مورد اکثر موضوعات همسو بودند. این شامل حمایت از حفاظت از حریم خصوصی، نظارت بیشتر دولت، ممیزی شخص ثالث و مدت زمانی که دولت ایالات متحده باید به دنبال تنظیم این صنعت باشد (فورا) بود.

با این حال، یکی از تنها منابع اختلاف از طرف مونتگومری IBM بود، که با این تصور که یک آژانس فدرال جدید برای اجرای مقررات در صنعت هوش مصنوعی ضروری است، مخالف بود.

اظهارات او نشان داد که IBM طرفدار یک رویکرد جراحی برای تنظیم مقررات با استفاده از نهادهای نظارتی موجود برای تمرکز بر اعمال بر موارد استفاده خاص است.

در حالی که هر سه سخنران موافق بودند که هوش مصنوعی می‌تواند مضر باشد و نیاز به مداخلات ایمنی دارد، مارکوس به صراحت گفت که معتقد است در حال حاضر هیچ‌کس نمی‌داند یا نمی‌تواند پیش‌بینی کند که محصولات هوش مصنوعی موجود چقدر مضر هستند یا خواهند شد. او از یک رویکرد محتاطانه با شفافیت بیشتر حمایت کرد.

سخنرانان همچنین با اعضای کنگره موافقت کردند که ایالات متحده به یک قانون ملی حفظ حریم خصوصی مشابه قوانین اروپا نیاز دارد. آلتمن، با این حال، با این ایده که مصرف کنندگان باید بتوانند از گنجاندن داده های وب در دسترس عموم خود در مجموعه داده های آموزشی انصراف دهند، مخالف بود.

آلتمن همچنین اعلام نمی کند که OpenAI با ارائه نسخه مبتنی بر تبلیغات محصولات GPT خود مخالف است. مدیرعامل به سادگی اظهار داشت که «نمی‌گوید هرگز».

این، علیرغم اینکه قبلاً در این جلسه گفته شد که محصولات OpenAI از استانداردهای حفظ حریم خصوصی مصرف‌کننده پیروی می‌کنند، زیرا این شرکت پروفایل‌های کاربر را برای ارائه تبلیغات سفارشی ایجاد نکرده است.

کوری بوکر، سناتور نیوجرسی، با استناد به تجربه‌اش به‌عنوان فارغ‌التحصیل و قانون‌گذار استنفورد که با شرکت‌های مالی غیرمتمرکز و Web3 کار می‌کرد، موضوع بزرگ‌تر حفظ حریم خصوصی تمرکز را مطرح کرد. او پرسید که پیامدهای تمرکز و انحصار برای صنعت چه خواهد بود، سوالی که مارکوس با این هشدار جدی پاسخ داد که کشور ممکن است در معرض خطر دادن کنترل بر ادراک عمومی به تعداد کمی از بازیگران - شرکت‌های پیشرو هوش مصنوعی با پول کافی باشد. برای رقابت با مایکروسافت، گوگل و آمازون.

آلتمن که پروژه Worldcoin او دارایی غیرمتمرکز ارز دیجیتال در بلاک چین اتریوم را با احراز هویت از طریق فناوری اسکن عنبیه ترکیب می‌کند، توضیح داد که OpenAI صرفاً یک پلتفرم را فراهم کرد و دموکراتیزه کردن محصولات OpenAI زمانی رخ داد که توسعه‌دهندگان، شرکت‌ها و کاربران نهایی GPT API را برای آن تطبیق دادند. استفاده های "فوق العاده"

مرتبط: مدیر عامل OpenAI در "مذاکرات پیشرفته" برای سرمایه 100 میلیون دلاری Worldcoin: گزارش