چطور می‌توان هوش مصنوعی را مسموم کرد؟

تهدید درهای پشتی در مدل‌های زبانی بزرگ و پیامدهای امنیتی آن

هوش مصنوعی و به‌ویژه مدل‌های زبانی بزرگ، تحولات چشمگیری در زمینه پردازش زبان طبیعی، تولید محتوا و تعاملات انسانی-ماشینی ایجاد کرده‌اند. این تکنولوژی‌ها به دلیل توانایی درک و تولید متون پیچیده، در بسیاری از حوزه‌ها کاربردهای گسترده‌ای یافته‌اند. اما با افزایش استفاده از این مدل‌ها، نگرانی‌های امنیتی نیز به صورت جدی مطرح شده‌اند که می‌تواند آینده این سیستم‌ها را تهدید کند.

یکی از این چالش‌های اساسی، وجود «درهای پشتی» یا «Backdoors» در مدل‌های زبانی بزرگ است؛ مکانیزم‌هایی پنهان که با استفاده از ورودی‌های خاص فعال شده و می‌توانند رفتارهای نامطلوب یا خطرناک را در مدل نشان دهند. مطالعات اخیر مشترک بین موسسه امنیت هوش مصنوعی انگلستان، مرکز آلن تورینگ و شرکت آنتروپیک نشان داده است که حتی با استفاده از حدود ۲۵۰ سند می‌توان چنین درهای پشتی را ایجاد کرد که منجر به تولید متن‌های غیر منطقی یا حتی فاش‌سازی داده‌های حساس می‌شوند.

چیستی درهای پشتی و چگونگی عملکرد آن‌ها در مدل‌های زبانی

درهای پشتی در مدل‌های هوش مصنوعی، به مجموعه‌ای از ورودی‌ها یا الگوهای متنی گفته می‌شود که وقتی توسط کاربر یا مهاجم وارد شوند، باعث فعال شدن عملکرد خاص و غیرمعمولی در مدل می‌شوند. این عملکرد معمولاً مخفی بوده و در حالت عادی هیچ اثری ندارد، ولی با ورود عبارت محرک، مدل رفتاری خارج از انتظار یا حتی مخرب از خود نشان می‌دهد.

در زمینه مدل‌های زبانی بزرگ، این درهای پشتی می‌توانند موجب تولید متن‌هایی غیرقابل فهم یا آشکارسازی اطلاعات محرمانه‌ای شوند که مدل به صورت غیرمستقیم در زمان آموزش به آن‌ها دسترسی داشته است. این مسئله زمانی نگران‌کننده‌تر می‌شود که بدانیم اکثر این مدل‌ها از داده‌های عمومی و آزاد در اینترنت مانند وب‌سایت‌های شخصی، پست‌های وبلاگی و منابع مشابه آموزش دیده‌اند.

مسموم‌سازی داده‌ها؛ رویکردی نوین برای نفوذ به مدل‌های هوش مصنوعی

یکی از روش‌های اصلی ایجاد درهای پشتی، «مسموم‌سازی داده» یا Data Poisoning است. در این روش، عاملان مخرب با وارد کردن داده‌های خاص و هدفمند به منابع عمومی که مدل‌ها از آن‌ها آموزش می‌بینند، به نوعی «ویروس» در ساختار مدل تزریق می‌کنند. به این ترتیب، وقتی این داده‌ها بخشی از مجموعه آموزشی می‌شوند، مدل به صورت ناخودآگاه الگوی رفتاری خاصی را فرا می‌گیرد که می‌تواند در موقعیت‌های مشخص فعال شود.

شرکت آنتروپیک در بلاگی که منتشر کرده بیان می‌کند که این نوع حملات می‌تواند مدل را به گونه‌ای تغییر دهد که تحت فرمان‌های خاص، اطلاعات حساس را فاش کند یا پاسخ‌های مخرب ارائه دهد. چنین آسیب‌پذیری‌هایی نگرانی‌های عمیقی در حوزه امنیت هوش مصنوعی به وجود آورده و می‌تواند تاثیر منفی بر اعتماد عمومی و استفاده ایمن از این فناوری‌ها داشته باشد.

پیامدهای امنیتی و محدودیت‌های استفاده در کاربردهای حساس

به دلیل گستردگی داده‌های آموزشی مدل‌های زبان، امکان نفوذ از طریق درهای پشتی و حملات مسموم‌سازی داده‌ها، ریسک بالقوه‌ای برای کاربردهای حیاتی و حساس هوش مصنوعی فراهم می‌کند. مثلا در سیستم‌های healthcare، خدمات مالی یا امنیت سایبری، چنانچه مدل‌های زبانی به این شکل در معرض سوء استفاده قرار بگیرند، پیامدهای جدی از جمله نقض حریم خصوصی، افشای اطلاعات محرمانه و حتی اقدامات خرابکارانه ممکن است رخ دهد.

این مساله باعث شده است که جامعه پژوهشی و توسعه‌دهندگان هوش مصنوعی به دنبال راهکارهای مقاوم‌سازی مدل‌ها در برابر چنین حملاتی باشند. از جمله این راهکارها می‌توان به بهبود روش‌های تمیز کردن داده‌های آموزشی، استفاده از الگوریتم‌های شناسایی و حذف داده‌های مسموم، و همچنین توسعه معماری‌های مقاوم‌تر در برابر درهای پشتی اشاره کرد.

راهکارهای مقابله با درهای پشتی در مدل‌های زبانی بزرگ

برای امنیت بیشتر مدل‌های زبانی بزرگ و کاهش خطرات ناشی از درهای پشتی، تحقیقات متعددی در حال انجام است. از جمله اقدامات کلیدی می‌توان موارد زیر را برشمرد:

• ایجاد استانداردهای دقیق برای انتخاب و ارزیابی داده‌های آموزشی، به طوری که داده‌های غیرقابل اعتماد و مشکوک حذف شوند.
• استفاده از روش‌های نظارت مداوم بر عملکرد مدل در محیط‌های واقعی و شناسایی رفتارهای غیرمتعارف.
• به‌کارگیری الگوریتم‌های یادگیری مقاوم یا Robust Learning که توانایی مقابله با داده‌های آلوده را داشته باشند.
• تدوین سیاست‌های اخلاقی و قانونی برای پیشگیری از بهره‌برداری غیرمجاز و سوء استفاده‌های احتمالی در حوزه هوش مصنوعی.

نتیجه‌گیری

مدل‌های زبانی بزرگ، به عنوان یکی از فناوری‌های پیشرفته هوش مصنوعی، امکانات بی‌نظیری در تولید محتوا و تعامل با انسان‌ها فراهم کرده‌اند. اما تهدیدهایی مانند درهای پشتی و مسموم‌سازی داده‌ها، چالش‌های امنیتی مهمی هستند که می‌توانند آینده این فناوری را تحت تاثیر قرار دهند. شناخت دقیق این تهدیدات و توسعه راهکارهای موثر مقابله با آن‌ها، لازمه بهره‌گیری ایمن و قابل اعتماد از مدل‌های زبان در تمامی حوزه‌هاست. بنابراین، توجه بیشتر به امنیت داده و پایش رفتار مدل از اولویت‌های اساسی تحقیقات هوش مصنوعی خواهد بود.