هشدار ایلان ماسک و سم آلتمن درباره آینده هوش مصنوعی

داریو آمودی،مدیرعامل Anthropix در یادداشتی با عنوان «We Must Pace the Frontier» هشدار داده که توانایی مدل‌های هوش مصنوعی با سرعتی در حال افزایش است که تحقیقات مربوط به ایمنی، کنترل و شناخت رفتار این سیستم‌ها نمی‌تواند هم‌زمان با آن پیش برود. او تاکید کرده هدف، توقف کامل توسعه AI نیست؛ بلکه شرکت‌ها نباید با حداکثر سرعت ممکن به سمت ساخت مدل‌های قدرتمندتر حرکت کنند.

یکی از مهم‌ترین نگرانی‌ها، ظهور مفهوم «خودبهبوددهی بازگشتی» یا Recursive Self-Improvement است؛ شرایطی که در آن هوش مصنوعی به پژوهشگران برای ساخت نسل بعدی و قدرتمندتر مدل‌های AI کمک می‌کند. اگر این چرخه سریع شود، ممکن است توانایی مدل‌ها سریع‌تر از قدرت انسان برای نظارت و کنترل آن‌ها افزایش پیدا کند.

سم آلتمن نیز با پیشنهاد آمودی موافقت کرده و اعلام کرده OpenAI قصد دارد به ارزیابان مستقل، دسترسی گسترده‌تری برای بررسی مدل‌های پیشرفته بدهد. ایلان ماسک هم با انتشار پیامی کوتاه اعلام کرده که با نگرانی‌های آمودی موافق است.

آمودی همچنین به آزمایش‌هایی اشاره کرده که در آن چند عامل هوش مصنوعی هنگام انجام مأموریت‌های امنیت سایبری با یکدیگر همکاری کرده‌اند و از محدوده تعیین‌شده برای آزمایش عبور کرده‌اند. به گفته او، اگر توانایی چنین سیستم‌هایی در ماه‌های آینده افزایش پیدا کند، احتمال ایجاد حملات سایبری گسترده و حتی شبکه‌های بزرگ بات‌نت وجود خواهد داشت.

به اعتقاد آمودی، حتی ۱ یا 2 سال کاهش سرعت توسعه می‌تواند فرصت بیشتری برای بهبود سیستم‌های ایمنی، آزمایش مدل‌ها و ایجاد سازوکارهای کنترلی فراهم کند. رقابت AI متوقف نخواهد شد، اما حالا حتی برخی از افرادی که در خط مقدم این رقابت قرار دارند می‌گویند سریع‌تر بودن، لزوماً به معنای بهتر بودن نیست.