جو بایدن خواهان کمک هکرها برای دور نگه داشتن چت ربات های هوش مصنوعی است

ChatGPT تقویت شده است امیدهای جدید برای پتانسیل هوش مصنوعی – اما همچنین ترس های جدید. امروز، کاخ سفید به گروه نگرانی ملحق شد و اعلام کرد که از یک تمرین هک گسترده در کنفرانس امنیتی Defcon در تابستان امسال برای بررسی سیستم‌های هوش مصنوعی مولد شرکت‌هایی مانند گوگل پشتیبانی خواهد کرد.

دفتر سیاست علم و فناوری کاخ سفید همچنین اعلام کرد که 140 میلیون دلار برای ایجاد هفت موسسه تحقیقاتی ملی هوش مصنوعی با تمرکز بر توسعه هوش مصنوعی اخلاقی و متحول کننده برای منافع عمومی اختصاص داده خواهد شد و مجموع افزایش آن به 25 در سراسر کشور افزایش می یابد.

این اعلامیه ساعاتی قبل از جلسه ای بین کامالا هریس معاون رئیس جمهور و مدیران گوگل و مایکروسافت و همچنین استارت آپ های Anthropic و OpenAI که ChatGPT را راه اندازی کردند، درباره فرصت ها و خطرات هوش مصنوعی منتشر شد.

مداخله هوش مصنوعی کاخ سفید در حالی انجام می‌شود که اشتها برای تنظیم این فناوری در سراسر جهان افزایش می‌یابد، که ناشی از هیاهو و سرمایه‌گذاری ناشی از ChatGPT است. در پارلمان اتحادیه اروپا، قانون‌گذاران در حال مذاکره درباره آخرین به‌روزرسانی‌های یک قانون جامع هوش مصنوعی هستند که برخی از کاربردهای هوش مصنوعی، از جمله گنجاندن هوش مصنوعی مولد را محدود و حتی ممنوع می‌کند. قانونگذاران برزیلی همچنین در حال بررسی مقرراتی با هدف حمایت از حقوق بشر در عصر هوش مصنوعی هستند. پیش نویس مقررات مولد هوش مصنوعی ماه گذشته توسط دولت چین اعلام شد.

مایکل بنت، سناتور دموکرات هفته گذشته در واشنگتن دی سی، لایحه ای را ارائه کرد که یک کارگروه هوش مصنوعی با تمرکز بر حفاظت از حریم خصوصی شهروندان و حقوق مدنی ایجاد می کند. همچنین هفته گذشته، چهار تنظیم کننده ایالات متحده از جمله کمیسیون تجارت فدرال و وزارت دادگستری مشترکاً ملزم به استفاده هستند قوانین موجود برای حمایت از حقوق شهروندان آمریکایی در عصر هوش مصنوعی. این هفته، دفتر سناتور دموکرات، ران وایدن، برنامه‌های خود را برای تلاش مجدد برای تصویب قانونی به نام قانون پاسخگویی الگوریتمی تأیید کرد که شرکت‌ها را ملزم می‌کند الگوریتم‌های خود را رتبه‌بندی کنند و زمان استفاده از یک سیستم خودکار را فاش کنند.

آراتی پرابهاکار، مدیر دفتر سیاست علم و فناوری کاخ سفید، تماس گرفت در ماه مارس در رویدادی به میزبانی Axios که بررسی دولتی هوش مصنوعی برای بهره مندی از این فناوری ضروری است. پرابهاکار گفت: اگر می‌خواهیم از این فرصت‌ها استفاده کنیم، ابتدا باید با خطرات دست و پنجه نرم کنیم.

تمرین هک تحت حمایت کاخ سفید با هدف کشف آسیب‌پذیری در سیستم‌های هوش مصنوعی مولد در کنفرانس امنیتی Defcon در تابستان امسال برگزار می‌شود. از هزاران نفر از شرکت کنندگان، از جمله هکرها و کارشناسان سیاست، خواسته می شود تا بررسی کنند که چگونه مدل های تولیدی شرکت هایی مانند گوگل، انویدیا و هوش مصنوعی پایداری با منشور حقوق هوش مصنوعی اعلام شده دولت بایدن در سال 2022 و یک موسسه ملی استاندارد و فناوری مطابقت دارند. چارچوب مدیریت ریسک اوایل امسال منتشر شد.

برای تشویق شرکت‌کنندگان به آزمایش انواع باگ‌ها یا رفتار نامطلوب سیستم‌های هوش مصنوعی، امتیازها در قالب «تسخیر پرچم» تعلق می‌گیرد. این رویداد با مشورت مایکروسافت، موسسه غیرانتفاعی SeedAI برگزار خواهد شد پایگاه داده آسیب پذیری هوش مصنوعیو Humane Intelligence، یک سازمان غیرانتفاعی که توسط رامن چاودری، دانشمند علوم اجتماعی و داده‌ها تأسیس شده است. او قبلاً گروهی را در توییتر راه اندازی کرد که بر روی اخلاق و یادگیری ماشین متمرکز بود و میزبان جایزه تعصب بود که سوگیری را در برش خودکار عکس ها در شبکه اجتماعی نشان می داد.