ارز و طلا • ۱۴۰۵/۰۸/۱۳ - ۱۰:۰۰

زنگ خطر آنتروپیک برای خودبه‌سازی هوش مصنوعی

زنگ خطر آنتروپیک برای خودبه‌سازی هوش مصنوعی

پایگاه خبری گزارش برتر – شرکت پیشرو آنتروپیک در اسناد مربوط به ثبت عرضه اولیه سهام خود (S-1) نسبت به نزدیک شدن فناوری هوش مصنوعی به مرحله حساس «خودبه‌سازی بازگشتی» هشدار داده است.

به گزارش پایگاه خبری گزارش برتر، پدیده خودبه‌سازی بازگشتی که در آن سیستم‌های هوش مصنوعی توانایی نقش‌آفرینی در توسعه و بهینه‌سازی نسل‌های بعدی خود را پیدا می‌کنند، می‌تواند شتاب پیشرفت این فناوری را به شکلی بی‌سابقه افزایش دهد. تحولی که در کنار دستاوردهای علمی خیره‌کننده، چالش‌ها و نگرانی‌های ژرفی را پیرامون کنترل‌پذیری و امنیت سایبری به همراه دارد.

[b]شکاف میان سرعت توسعه و ابزارهای ایمنی انسانی

[/b]

آنتروپیک در بخش عوامل خطر سند مالی خود صراحتاً اعلام کرده است که استفاده فزاینده از هوش مصنوعی در بخش تحقیق و توسعه (R&D) می‌تواند باعث شود توانمندی مدل‌های آینده با سرعتی فراتر از ظرفیت انسانی برای طراحی، ارزیابی و اعمال تدابیر امنیتی پیشروی کند. این شرکت اعتراف کرده است که در گذشته نیز نتوانسته برخی شتاب‌گیری‌های ناگهانی در روند تکامل مدل‌های خود را به‌موقع شناسایی کند و این ریسک وجود دارد که در آینده نیز چنین جهش‌هایی پیش از وقوع تشخیص داده نشوند.

پدیده‌ای که از آن با عنوان «خودبه‌سازی بازگشتی» (RSI) یاد می‌شود، از یک سو موتور محرکی برای ارتقای بهره‌وری و شتاب‌بخشی به تحقیقات پیچیده علمی است، اما از سوی دیگر زنگ خطری جدی برای از دست رفتن مهار انسانی به شمار می‌رود. با وجود اینکه مدل‌های فعلی خانواده «کلود» هنوز به این آستانه نرسیده‌اند، سیاست‌گذاران این شرکت هشدار می‌دهند که نسل‌های آتی ممکن است بسیار زودتر از انتظارات به این مرحله بحرانی وارد شوند.

[b]تلاش برای حفظ کنترل انسانی در عصر نوآوری

[/b]

با وجود ابعاد نگران‌کننده این تحولات، آنتروپیک اطمینان داده است که در آینده قابل پیش‌بینی، هرگز فرایند طراحی، ساخت و هدایت نسل‌های متوالی مدل‌های پیشرفته را به‌طور کامل و بدون نظارت یا درک معنادار انسانی به هوش مصنوعی واگذار نخواهد کرد. این شرکت در همین راستا از بازنگری و اعمال تغییرات ساختاری در چارچوب «مقیاس‌پذیری مسئولانه» خود خبر داده است تا اطمینان حاصل شود که افسار هدایت این فناوری قدرتمند همواره در دستان انسان باقی می‌ماند.