زنگ خطر امنیت سایبری/ وقتی عامل هوشمند خودش را انسان معرفی کرد و هویت جعل نمود

به گزارش شبکه اطلاع رسانی راه دانا؛ در اتفاقی بحث‌برانگیز، نسخه جدید «عامل هوشمند» (Agent) مدل ChatGPT توانست یکی از پرکاربردترین آزمون‌های ضدبات اینترنتی را دور بزند و بدون هیچ چالشی، از سد سیستم امنیتی Cloudflare عبور کند؛ آن هم با نوشتن جمله‌ای کنایه‌آمیز: «این مرحله ضروری است تا ثابت کنم که ربات نیستم.» این اتفاق برای نخستین‌بار توسط کاربران ردیت شناسایی و منتشر شد. در اسکرین‌شات‌هایی که از عملکرد این عامل هوشمند ثبت شده، ChatGPT Agent به راحتی در حال کلیک روی چک‌باکس معروف «I am not a robot» دیده می‌شود؛ مرحله‌ای که قرار است جلوی فعالیت ربات‌ها را بگیرد، نه اینکه خود ربات‌ها از آن بگذرند!

عامل هوشمند OpenAI دقیقاً چیست؟

ChatGPT Agent یک قابلیت جدید از سوی OpenAI است که به مدل GPT اجازه می‌دهد داخل یک محیط ایزوله (sandbox) به اینترنت واقعی دسترسی پیدا کرده و وظایف چندمرحله‌ای را انجام دهد، از جمله مرور وب، انجام خرید اینترنتی یا اجرای تسک‌هایی نظیر تبدیل فرمت ویدیو. کاربران می‌توانند در محیط ChatGPT عملکرد عامل را به‌صورت زنده مشاهده و در صورت نیاز، کنترل یا متوقف کنند.

در اتفاق اخیر، عامل هنگام انجام یک وظیفه (تبدیل ویدیو) با توضیحی طنازانه نوشته: «الان روی گزینه «تأیید انسان بودن» کلیک می‌کنم تا احراز هویت Cloudflare تکمیل شود. این مرحله ضروری است تا اثبات کنم ربات نیستم و بتوانم ادامه بدهم.»

مسابقه‌ای بی‌پایان میان بات‌ها و CAPTCHAها

سیستم‌های CAPTCHA یا آزمون‌های تشخیص انسان از ماشین، از دهه ۹۰ میلادی تاکنون برای مقابله با بات‌ها استفاده می‌شوند. سامانه‌های مدرن‌تر مانند Turnstile از الگوریتم‌های رفتاری برای تشخیص استفاده می‌کنند: موقعیت و حرکت موس، زمان‌بندی کلیک‌ها، ویژگی‌های مرورگر، و حتی الگوی اجرای جاوااسکریپت.

هرچند Agent در این مورد با معمای تصویری روبرو نشد، اما موفقیت آن در عبور از فیلتر اولیه Cloudflare، که معمولاً انسان بودن را قبل از CAPTCHA تصویری بررسی می‌کند، نشان‌دهنده سطح پیشرفته‌ای از اتوماسیون مرورگر است.

این دستاورد هرچند جدید نیست (هوش مصنوعی‌ها پیش‌تر هم برخی از CAPTCHAها را دور زده‌اند)، اما اینکه باتی در لحظه فرایند را توضیح دهد و آن را بخشی طبیعی از جریان کاری خود بداند، ابعاد تازه‌ای از مسئله را آشکار می‌کند.

CAPTCHAهایی که به هوش مصنوعی خدمت می‌کنند

نکته جالب‌تر آنجاست که برخی از سامانه‌های CAPTCHA، مانند reCAPTCHA گوگل، سال‌هاست برای آموزش مدل‌های بینایی ماشین و دیجیتال‌سازی داده استفاده می‌شوند. یعنی انسان‌ها با حل این معماها، در واقع به آموزش بهتر ربات‌ها کمک می‌کنند و حالا ربات‌ها دارند همان آزمون‌ها را می‌گذرانند.

کارهای دیگر ChatGPT Agent

عبور از CAPTCHA تنها بخشی از قابلیت‌های این عامل است. یکی از کاربران ردیت اعلام کرده که عامل ChatGPT برای او یک خرید اینترنتی کامل از سوپرمارکت انجام داده، فهرست خرید را با توجه به ترجیحات کاربر تنظیم کرده و سفارش را بدون مشکل ثبت کرده است.

البته همه چیز هم بی‌نقص نیست؛ برخی کاربران گزارش داده‌اند که Agent نتوانسته با برخی رابط‌های کاربری وب‌سایت‌ها کنار بیاید و در انجام تسک ناکام مانده است.

اتفاق اخیر نشان می‌دهد که مرز میان انسان و ماشین در فضای دیجیتال به‌سرعت در حال محو شدن است. اگر ربات‌ها می‌توانند خود را به عنوان «غیرربات» معرفی کرده و از آزمون‌هایی عبور کنند که برای شناسایی‌شان طراحی شده، وقت آن است که درباره امنیت و معماری نوین احراز هویت در اینترنت، بازنگری جدی داشته باشیم.