هوش مصنوعی میتواند «تهدیدهای روز صفر» در حوزه زیستشناسی ایجاد کند
کشف آسیبپذیری «روز صفر» در سیستمهای زیست امنیتی با بهرهگیری از هوش مصنوعی
تیمی تحقیقاتی در شرکت مایکروسافت به رهبری «اریک هورویتز» دانشمند ارشد این شرکت، اخیراً موفق به شناسایی یک آسیبپذیری جدید تحت عنوان «روز صفر» (Zero Day) در سیستمهای زیست امنیتی شده است که برای مقابله با سوءاستفادههای احتمالی از توالیهای ژنتیکی طراحی شدهاند. این سیستمها معمولاً بهمنظور جلوگیری از خرید و استفاده غیرمجاز از توالیهای DNA که میتوانند به تولید سموم کشنده یا عوامل بیماریزا منجر شوند، توسعه یافتهاند. اما کشف جدید نشان میدهد که استفاده از هوش مصنوعی مولد احتمالاً راهی برای دور زدن این حفاظها وجود دارد که پیش از این ناشناخته بود.
اهمیت این کشف در این است که نشان میدهد پیشرفتهای سریع در حوزه هوش مصنوعی مولد، که برای طراحی پروتئینهای جدید و جستجوی داروهای نوین به کار گرفته میشوند، میتوانند به طور ناخواسته در زمینه تولید سلاحهای زیستی نیز مورد سوءاستفاده قرار بگیرند. این موضوع نیاز به بازنگری و ارتقای روشهای امنیتی در سطح جهان و بهویژه در سطح ملی را بیش از پیش ضروری ساخته است.
نقش هوش مصنوعی مولد در طراحی پروتئینها و تهدیدات پیش رو
توسعه دهندگان هوش مصنوعی، بهخصوص در شرکتهایی مانند مایکروسافت، Generate Biomedicines و Isomorphic Labs، از الگوریتمهای مولد برای کشف اشکال جدید پروتئینها استفاده میکنند که میتواند در فرآیندهای داروسازی انقلابی ایجاد کند. این برنامهها قادرند مولکولهای پیچیدهای را تولید کنند که پیشتر ناشناخته بودهاند و به کشف درمانهای جدید کمک میکنند.
با این حال، مشکل اساسی از ماهیت دوگانه این فناوریها ناشی میشود؛ یعنی هوش مصنوعی مورد استفاده میتواند هم برای تولید پروتئینهای مفید و هم پروتئینهای مخرب به کار گرفته شود. به عبارت دیگر، همان دادههایی که برای تولید داروهای جدید استفاده میشود، ممکن است به تولید سموم یا عوامل بیماریزا نیز منتهی شود.
سیستمهای غربالگری زیستامنیتی و چالشهای آن
سیستمهای غربالگری امنیت زیستی که توسط فروشندگان تجاری توالیهای DNA مورد استفاده قرار میگیرند، هدفشان جلوگیری از ثبت سفارش توالیهایی است که به لحاظ ساختاری به سموم یا عوامل بیماریزا شباهت دارند. چنانچه توالی سفارش داده شده مشابهت قابل توجهی با مولکولهای خطرناک داشته باشد، این سیستمها هشدار میدهند و سفارش مسدود میشود.
مایکروسافت با استفاده از چندین مدل هوش مصنوعی مولد، ازجمله مدل اختصاصی خود به نام EvoDiff، توانست طراحی مجدد سمومی را انجام دهد که قادر باشند از زیر این نرمافزارهای غربالگری عبور کنند در حالی که هنوز عملکرد سمزایی خود را حفظ میکنند. این بدان معناست که سیستمهای فعلی غربالگری قادر نیستند تمام تهدیدات احتمالی را شناسایی نمایند.
اقدامات مایکروسافت و مسئولیت اخلاقی در برابر تهدیدهای زیستی
گفتنی است تیم مایکروسافت تمامی آزمایشهای خود را به شکل دیجیتال و بدون ساخت واقعی پروتئینهای سمی انجام داده است تا از هر گونه سوءتفاهم و نگرانی درباره توسعه سلاحهای بیولوژیک جلوگیری شود. پیش از انتشار نتایج، این شرکت به دولت ایالات متحده و سازندگان نرمافزارهای غربالگری هشدار داده و آنها نیز بهسرعت اقدام به بهروزرسانی و رفع آسیبپذیریها کردهاند.
برای پرهیز از سوءاستفاده، مایکروسافت جزئیات دقیق توالیهایی را که هوش مصنوعی طراحی کرده است، اعلام نکرده است، اگرچه پروتئینهایی مانند ریسین (سم موجود در دانههای کرچک) و پریونها که عامل بیماری جنون گاوی هستند، قبلاً کاملاً شناخته شدهاند.
دیدگاههای مختلف درباره آینده امنیت زیستی در عصر هوش مصنوعی
ضرورت توسعه سیستمهای غربالگری پیشرفته و استانداردهای نوین
دین بال از بنیاد نوآوری آمریکا بر این باور است که با توجه به پیشرفت سریع فناوریهای شبیهسازی بیولوژیکی با هوش مصنوعی، باید هرچه سریعتر روشهای دقیقتر و متقنی برای غربالگری توالیهای DNA توسعه یابد. او اشاره میکند که بررسی سفارشات DNA در حال حاضر خط دفاعی حیاتی امنیت ملی کشورهای مختلف است و بازنگری در آن برای ارتقای سطح ایمنی الزامی است.
انتقاد از تکیه صرف بر روشهای غربالگری DNA
در سوی دیگر، مایکل کوهن، متخصص امنیت هوش مصنوعی دانشگاه کالیفرنیا برکلی، معتقد است که روش فعلی غربالگری سفارشات DNA محدودیتهایی دارد و همواره راههایی برای پنهان کردن توالیهای خطرناک وجود دارد. به گفته او، باید تمرکز خود را بر امنیت در خود سیستمهای هوش مصنوعی بگذاریم و این کنترلها را یا در ساختار مدلهای هوش مصنوعی ادغام کنیم یا مکانیزمهایی برای کنترل دادههایی که تولید میکنند، پیاده کنیم.
نظرات شرکتهای تولید کننده DNA
کلور از شرکتهای تولیدکننده DNA نیز معتقد است که نظارت و کنترل سنتز ژن کماکان یک ابزار حیاتی در برخورد با تهدیدهای زیستی است، زیرا این صنعت تحت کنترل چند شرکت محدود و همکاری نزدیکی با دولتها قرار دارد. با این حال، او نیز هشدار میدهد که با توجه به پیچیدگی و در دسترس بودن گسترده فناوریهای هوش مصنوعی، کاهش خطرات مستلزم راهکارهای جامعتر و هوشمندانهتری خواهد بود.
نتیجهگیری: امنیت زیستی و هوش مصنوعی؛ دغدغهای فراگیر و نیازمند همکاری جهانی
کشف آسیبپذیریهای جدید در سیستمهای زیستامنیتی و نشان دادن توانایی هوش مصنوعی در تولید «تهدیدهای روز صفر» در حوزه زیستشناسی، یک زنگ هشدار جدی برای جامعه جهانی است. استفاده دوگانه از فناوریهای ژنتیکی و هوش مصنوعی لزوم بازبینی استراتژیهای امنیتی، ارتقای سیستمهای غربالگری و توسعه قوانین و سیاستهای جهانی جدید را پررنگ میکند.
برای مقابله با چنین تهدیداتی، همکاری نزدیک میان دولتها، بخش خصوصی، پژوهشگران و سازمانهای بینالمللی حیاتی است تا فناوری هوش مصنوعی به شکلی کنترل شده و مسئولانه پیش برود و سلامت و امنیت جمعی حفظ شود.
