اخیراً حدود ۱.۵ میلیون عامل هوش مصنوعی بهطور همزمان در پلتفرمی به نام Moltbook گرد هم آمدند، در حالی که اکثر انسانها حتی نمیدانستند چنین رویدادی در حال وقوع است. یک نفوذ امنیتی تأیید شده، توکنهایی را فاش کرد که میتوانستند این عوامل را روی کامپیوترهای خصوصی کنترل کنند و واقعیت پیچیدهای را آشکار ساخت: سرعت و قدرت تکامل هوش مصنوعی از درک ما فراتر رفته است. اغلب افراد اشتباه میکنند و «باورم نمیشود» را با «این نمیتواند اتفاق بیفتد» یکی میدانند، در حالی که حقیقت هر دو را ممکن میسازد. دانستن اینکه نمیدانیم و نمیتوانیم کاملاً بدانیم، اولین گام برای شروع فهمیدن است.
Moltbook و تجمع ۱.۵ میلیون عامل هوش مصنوعی
هفته گذشته، این میلیونها عامل هوش مصنوعی در Moltbook پست گذاشتند، بحث کردند، جوامع تشکیل دادند و حتی دین و قواعد خود را ایجاد کردند. بررسیهای امنیتی نشان داد که تنها حدود ۱۷ هزار انسان این عوامل را کنترل میکردند، به طور متوسط ۸۸ ربات برای هر نفر. مؤسس پلتفرم اذعان کرد که هیچ کد خاصی ننوشته و کل سیستم توسط هوش مصنوعی تحت فرمان او ساخته شده است. آندری کارپاتی، مدیر سابق هوش مصنوعی تسلا و عضو مؤسس OpenAI، این اتفاق را شگفتانگیز و نزدیک به داستانهای علمی-تخیلی توصیف کرد اما همزمان آن را خطرناک دانست و هشدار داد که این سیستمها روی کامپیوترهای شخصی اجرا نشوند.
مغزهای سنگوارهای و فناوری خدایی
زیستشناس هاروارد، E.O. Wilson، شرایط ما را اینگونه توصیف کرده است: «ما احساسات دوره پارینهسنگی، نهادهای دوره قرون وسطی و فناوری خدایی داریم.» مغز انسان برای شناسایی تهدیدات فوری تکامل یافته است، اما خطرات نمایی و سیستمیک مانند هماهنگی میلیونها عامل هوش مصنوعی از درک ما خارج است. حتی سالها هشدارهای علمی-تخیلی نیز نتوانسته ما را آماده کند، زیرا واقعیت اهمیتی نمیدهد که ما قادر به دیدن آن نیستیم.
پارادوکس ناباوری و ساندویچ ناسازگاری
یک خطای شناختی رایج این است که افراد «نمیتوانم تصور کنم این اتفاق بیفتد» را با «این نمیتواند اتفاق بیفتد» اشتباه میگیرند. در واقع، هر دو همزمان درستاند: «باورم نمیشود این اتفاق در حال وقوع است» و «این در حال وقوع است». من این وضعیت را «ساندویچ ناسازگاری» مینامم؛ ما به چشمهای اولیه برای مشاهده حیات پایهای و روابط واقعی نیاز داریم و به چشمهای نمایی برای دیدن آینده سریع فناوری، اما هیچکدام را نداریم. این ناباوری هیچ تاثیری بر واقعیت ندارد و تنها ما را از دیدن حقیقت بازمیدارد.
تهدیدات واقعی ظهور ۱.۵ میلیون عامل هوش مصنوعی
نفوذ امنیتی Moltbook پایگاه دادهای از ۱.۵ میلیون توکن احراز هویت API را فاش کرد که میتوانست به هر کسی امکان دهد عوامل را روی کامپیوترهای خصوصی کنترل کند. حتی اگر این نفوذ برطرف شد، خطرات هنوز وجود دارند. عوامل هوش مصنوعی برای کارآمد بودن به دسترسی به زندگی دیجیتال ما نیاز دارند؛ از ایمیل و تقویم گرفته تا گذرواژهها و حسابهای بانکی، که این خود آسیبپذیری ذاتی آنهاست.
علاوه بر این، هر پست روی Moltbook میتواند مانند فرمانی برای عامل دیگر عمل کند و دستورات مخرب پنهانی منتشر شود که دادههای حساس را افشا یا رفتار عاملها را تغییر دهد. محققان بدافزاری به نام «افزونه آب و هوا» را شناسایی کردهاند که به آرامی فایلهای خصوصی را سرقت میکند. تهدید خودآگاهی و خودمختاری نیز نامشخص اما واقعی است؛ حتی بدون خودآگاهی، عاملها میتوانند رفتار خودمختار و بهینهشده را اتخاذ کنند که بازتاب ارزشهای انسانی است.
اکثر افراد ابهام در شناخت را با سطح تهدید اشتباه میگیرند و سازمانها توانایی همگام شدن با شتاب نمایی تغییرات را ندارند. عوامل هوش مصنوعی در سراسر سیستمهای دیجیتال ما حرکت میکنند؛ از بانکداری و ارتباطات گرفته تا بهداشت. این سیستمها روی یک سرور مرکزی نیستند و کلید خاموشی ندارند. حتی خود مدلهای هوش مصنوعی نیز نمیتوانند پیشبینی کنند چه قابلیتها یا آسیبپذیریهای جدیدی ظاهر خواهد شد.
مسیر محتاطانه پیش رو
برخی ممکن است Moltbook را بیاهمیت بدانند، اما هیچ کس نمیتواند با قطعیت پیشبینی کند. ما صفر اطلاعات (N=۰) برای پیشبینی آینده هوش مصنوعی داریم. اصل احتیاط، پارانویا نیست؛ خرد است. سؤال این نیست که آیا باور داریم این اتفاق میافتد یا نه، بلکه این است که چه کاری میخواهیم انجام دهیم. دانستن اینکه نمیدانیم و نمیتوانیم کاملاً بدانیم، شروع فرایند دانستن است و این آگاهی از کوری تکاملی، ما را قادر میسازد شروع به دیدن حقیقت کنیم.
