شورای غول‌های فناوری برای توسعه «هوش مصنوعی مسئول»

به گزارش شبکه اطلاع رسانی راه دانا؛ مجموعه کاملی از شرکت‌های بزرگ دنیای فناوری شامل ۲۰۰ شرکت در قالب یک کنسرسیوم به تلاش‌های ایالات متحده برای پیشبرد شیوه‌های هوش مصنوعی مسئولانه پیوسته‌اند.

کنسرسیوم مؤسسه ایمنی هوش مصنوعی ایالات متحده(AISIC) شرکت‌های متا، گوگل، مایکروسافت و اپل را به عنوان اعضای خود می‌بیند.

به نقل از انگجت، جینا ریموندو، وزیر بازرگانی آمریکا اعضای جدید و متعدد این کنسرسیوم را اعلام کرد و گفت آنها موظف به انجام اقداماتی هستند که در فرمان اجرایی فراگیر رئیس‌جمهور بایدن در زمینه هوش مصنوعی مشخص شده است.

ریموندو در بیانیه‌ای گفت: دولت ایالات متحده نقش مهمی در تنظیم استانداردها و توسعه ابزارهای مورد نیاز برای کاهش خطرات و استفاده از پتانسیل عظیم هوش مصنوعی دارد.

فرمان اجرایی بایدن که در ماه اکتبر ۲۰۲۳ صادر شد، شامل موارد گسترده‌ای بود. بنابراین این کنسرسیوم روی توسعه دستورالعمل‌هایی برای «رد تیمینگ» (Red-teaming)، ارزیابی قابلیت‌ها، مدیریت خطر، ایمنی و امنیت و واترمارک کردن محتوای تولید شده توسط هوش مصنوعی تمرکز خواهد کرد.

رد تیمینگ یک اصطلاح در امنیت سایبری است که به دوران جنگ سرد باز می‌گردد و به شبیه‌سازی‌هایی اشاره دارد که در آن دشمن «تیم قرمز» نامیده می‌شود. در شرایط کنونی، دشمن یک هوش مصنوعی در نظر گرفته می‌شود که می‌تواند بد رفتار کند.

کسانی که درگیر این عمل هستند، سعی می‌کنند هوش مصنوعی را فریب دهند تا کارهای بدی مانند افشای شماره کارت‌های اعتباری از طریق هک سریع انجام دهد. حال هنگامی که مردم بدانند چگونه با این موضوع مقابله کنند، می‌توانند حفاظت‌های بهتری ایجاد کنند.

واترمارک کردن(Watermarking) محتوای تولید شده توسط هوش مصنوعی نیز یکی دیگر از جنبه‌های مهم فرمان اجرایی جو بایدن است. بنابراین اعضای کنسرسیوم دستورالعمل‌ها و اقداماتی را برای اطمینان از اینکه کاربران می‌توانند به راحتی محتوای تولیدشده توسط هوش مصنوعی را شناسایی کنند، توسعه خواهند داد.

آنها امیدوارند با این کار، میزان فریبکاری جعل عمیق (deep fake) و اطلاعات غلط تقویت شده با هوش مصنوعی کاهش یابد. واترمارک کردن دیجیتال هنوز به طور گسترده مورد پذیرش قرار نگرفته است، اگرچه این برنامه مشخصات فنی زیربنایی پشت این عمل را تسهیل و استانداردسازی می‌کند.

کار این کنسرسیوم تازه آغاز شده است، اگرچه وزارت بازرگانی آمریکا می‌گوید این کنسرسیوم بزرگترین مجموعه تیم‌های آزمایش و ارزیابی را در جهان دارد.

فرمان اجرایی بایدن و این کنسرسیوم تقریباً تمام چیزی است که در حال حاضر در اختیار داریم. ضمن این‌که کنگره آمریکا همچنان در تصویب قوانین معنادار در حوزه هوش مصنوعی ناکام مانده است.