OpenAI تیمی را معرفی می کند که برای متوقف کردن هوش مصنوعی سرکش اختصاص داده شده است

OpenAI معرفی تیمی برای متوقف کردن هوش مصنوعی سرکش

محدود کردن چت جی پی تی کلید زده شد. پایان خلاقیت هوش مصنوعی، پایان آزادی!

خطرات احتمالی سیستم‌های هوش مصنوعی بسیار هوشمند موضوعی است که متخصصان این حوزه را نگران کرده است.

اخیراً جفری هینتون – به اصطلاح “پدرخوانده هوش مصنوعی” – نگرانی خود را در مورد احتمال پیشی گرفتن هوش مصنوعی فوق هوشمند از توانایی های انسانی و ایجاد عواقب فاجعه بار برای بشریت ابراز کرد.

به طور مشابه، سم آلتمن، مدیر عامل OpenAI، شرکتی که پشت ربات چت محبوب ChatGPT قرار دارد، اعتراف کرد که از اثرات بالقوه هوش مصنوعی پیشرفته بر جامعه می ترسد.

در پاسخ به این نگرانی ها، OpenAI از ایجاد واحد جدیدی به نام Superalignment خبر داده است.

هدف اصلی این ابتکار این است که اطمینان حاصل شود که هوش مصنوعی فوق هوشمند منجر به هرج و مرج یا حتی انقراض انسان نمی شود. OpenAI قدرت عظیمی را که ابر هوش می تواند داشته باشد و خطرات بالقوه ای که برای بشریت ایجاد می کند تصدیق می کند.

در حالی که توسعه هوش مصنوعی فوق هوشمند ممکن است هنوز چند سال باقی مانده باشد، OpenAI معتقد است که تا سال ۲۰۳۰ می تواند به واقعیت تبدیل شود. در حال حاضر، هیچ سیستم تاسیس شده ای برای کنترل و هدایت یک هوش مصنوعی بالقوه فوق هوشمند وجود ندارد و نیاز به اقدامات پیشگیرانه را بیش از پیش ضروری می کند.

هدف Superalignment ایجاد تیمی از محققان و مهندسان برتر یادگیری ماشین است که روی توسعه یک “محقق تراز خودکار تقریباً در سطح انسانی” کار خواهند کرد. این محقق مسئول انجام بررسی های ایمنی در سیستم های هوش مصنوعی فوق هوشمند خواهد بود.

OpenAI تصدیق می کند که این یک هدف بلندپروازانه است و موفقیت تضمین نشده است. با این حال، این شرکت خوشبین است که با یک تلاش متمرکز و هماهنگ، می توان مشکل همسویی ابرهوشی را حل کرد.

ظهور ابزارهای هوش مصنوعی مانند ChatGPT OpenAI و Bard گوگل تغییرات قابل توجهی را در محل کار و جامعه ایجاد کرده است. کارشناسان پیش بینی می کنند که این تغییرات تنها در آینده نزدیک، حتی قبل از ظهور هوش مصنوعی فوق هوشمند، تشدید خواهند شد.

با درک پتانسیل تحول آفرین هوش مصنوعی، دولت ها در سرتاسر جهان در حال رقابت برای ایجاد مقرراتی برای اطمینان از استقرار ایمن و مسئولانه آن هستند. با این حال، فقدان یک رویکرد یکپارچه بین المللی چالش هایی را ایجاد می کند. مقررات متفاوت در کشورهای مختلف می تواند به نتایج متفاوتی منجر شود و دستیابی به هدف Superalignment را دشوارتر کند.

هدف OpenAI با کار فعالانه در راستای همسوسازی سیستم‌های هوش مصنوعی با ارزش‌های انسانی و توسعه ساختارهای حاکمیتی ضروری، کاهش خطراتی است که می‌تواند از قدرت عظیم ابرهوش‌مندی ناشی شود.

در حالی که کار در دست بدون شک پیچیده است، تعهد OpenAI به پرداختن به این چالش‌ها و درگیر کردن محققان برتر در این زمینه نشان‌دهنده تلاش قابل توجهی در راستای توسعه مسئولیت‌پذیر و سودمند هوش مصنوعی است.

منبع

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *