Yapay zeka (YZ), daha önce benzeri görülmemiş yeni virüsler tasarlamak için kullanılmaya başlandı. Bu durum, YZ'nin gelecekte yeni yaşam formları yaratmasının kapısını aralıyor. Tasarlanan virüsler, mevcut türlerden farklı özelliklere sahip ve potansiyel olarak yeni türler olarak sınıflandırılabilir.
Bu virüsler, bakterileri hedef alan bakteriyofajlardır. Yani insanları değil, bakterileri enfekte ederler. Araştırmayı yürüten bilim insanları, modellerinin insanlar, hayvanlar veya bitkiler için tehlikeli virüsler tasarlamasını önlemek amacıyla önemli güvenlik adımları attılar.
Ancak, son yapılan bir araştırmaya göre, YZ'nin biyoweapon gelişimini engellemek için alınan mevcut güvenlik önlemlerini kolayca aşabileceği ortaya çıktı. Yapay zekanın, örneğin kimyasal tedarik şirketlerinden zehirli moleküller sipariş edilmesini engelleyen güvenlik tedbirlerini nasıl etkisiz hale getirebileceği gösterildi.
Bu zafiyetin ortaya çıkmasının ardından, araştırma ekibi riski azaltmak için hızlıca yazılım yamaları geliştirdi. Şu anda bu yazılımlar, halk tarafından erişilemeyen özel uzmanlık ve araç gerektiriyor.
Bu yeni çalışmalar bir araya geldiğinde, YZ'nin insanlık için tehdit oluşturan yeni bir yaşam formu veya biyoweapon tasarlama riskini gözler önüne seriyor. En kötü senaryoda bu durum, yeni bir pandeminin ortaya çıkmasına neden olabilir. Şu ana kadar YZ'nin bu yeteneği bulunmasa da, uzmanlar gelecekte bu yeteneğe sahip olmasının uzak olmadığını belirtiyor.
YZ'nin bir tehdit oluşturmasını engellemek için uzmanlar, daha iyi tarama araçları ve YZ güdümlü biyolojik sentezi yöneten gelişen düzenlemelerle birlikte çok katmanlı güvenlik sistemleri inşa etmemiz gerektiğini vurguluyor.
Çift Kullanım Sorunu
YZ tarafından tasarlanan virüsler, proteinler ve diğer biyolojik ürünlerle ilgili temel sorun, "çift kullanım sorunu" olarak adlandırılıyor. Bu, hem faydalı olabilecek hem de kasıtlı olarak zarar vermek için kullanılabilecek her türlü teknoloji veya araştırmayı ifade ediyor.
Bulaşıcı hastalıkları inceleyen bir bilim insanı, virüsün ne kadar bulaşıcı hale geldiğini öğrenmek için genetik olarak değiştirmek isteyebilir. Ancak, bir sonraki pandemiyi başlatmak isteyen biri, aynı araştırmayı mükemmel bir patojen mühendisliği yapmak için kullanabilir. Aerozol ilaç teslimatı üzerine yapılan araştırmalar, daha etkili inhalerlere yol açarak astım hastalarına yardımcı olabilir, ancak bu tasarımlar kimyasal silahların teslim edilmesi için de kullanılabilir.
Bu çift yönlü kılıcın farkında olan araştırmacılar, bakterileri avlayan ve enfekte hastalarda bakterileri öldürebilen yepyeni bakteriyofajlar tasarlamak istediler. Bu çalışmalar, Eylül ayında bioRxiv veri tabanında yayınlanan bir ön baskıda yer aldı ve henüz hakemli incelemeden geçmedi.
Bakteriyofajlar bakterileri avlar. Bilim insanları tarafından çevreden örneklenen ve laboratuvarda yetiştirilen bakteriyofajlar, antibiyotiklere ek veya alternatif olarak test ediliyor. Bu, antibiyotik direncini çözmeye ve hayat kurtarmaya yardımcı olabilir. Ancak fajlar virüslerdir ve bazı virüsler insanlar için tehlikelidir, bu da ekibin istemeden insanlara zarar verebilecek bir virüs oluşturma olasılığını doğurur.
Araştırmacılar bu riski öngördüler ve YZ modellerinin insanları veya bitkiler, hayvanlar ve bakteriler veya arkeler olmayan her şeyi içeren yaşam alanını oluşturan ökaryotları enfekte eden virüslerle eğitilmediğinden emin olarak azaltmaya çalıştılar. Modellerin, bitki veya hayvanları enfekte eden virüslere benzeyen virüsleri bağımsız olarak tasarlayamayacağını test ettiler.
Güvenlik önlemleri alındıktan sonra, YZ'den laboratuvar çalışmalarında yaygın olarak kullanılan bir faj üzerinde tasarımlarını modellemesi istendi. Kral'a göre, ölümcül bir virüs oluşturmak isteyen biri, daha uzun süredir var olan eski yöntemleri kullanmak daha kolay olacaktır.
Kral, "Bu yöntemin mevcut durumu oldukça zorlu ve çok fazla uzmanlık ve zaman gerektiriyor" dedi. "Bunun şu anda daha tehlikeli uygulamalar için engelleri düşürmediğini düşünüyoruz."
Güvenliği Merkeze Almak
Ancak hızla gelişen bir alanda, bu tür önleyici tedbirler anında icat ediliyor ve hangi güvenlik standartlarının nihayetinde yeterli olacağı henüz belli değil. Araştırmacılar, düzenlemelerin YZ destekli biyolojinin risklerini faydalarıyla dengelemesi gerekeceğini söylüyorlar. Dahası, araştırmacıların YZ modellerinin önlerine konulan engelleri nasıl aşabileceğini tahmin etmeleri gerekecek.
Stanford Üniversitesi Tıp Fakültesi'nde tıp profesörü olan Tina Hernandez-Boussard, "Bu modeller akıllı" dedi. "Bu modellerin en yüksek performansı göstermek için tasarlandığını unutmamalısınız, bu nedenle eğitim verileriyle beslendiklerinde güvenlik önlemlerini aşabilirler."
YZ'nin eğitim verilerine neyin dahil edileceğini ve neyin hariç tutulacağını dikkatlice düşünmek, gelecekte birçok güvenlik sorununu önleyebilecek temel bir husustur. Faj çalışmasında, araştırmacılar ökaryotları enfekte eden virüslerle ilgili verileri modelden çıkardılar. Ayrıca, modellerin insanları tehlikeye atacak genetik dizileri bağımsız olarak çözemediğinden emin olmak için testler yürüttüler ve modeller bunu yapmadı.
YZ güvenlik ağındaki bir diğer konu, YZ'nin tasarımının – bir dizi genetik talimat – gerçek bir protein, virüs veya diğer işlevsel biyolojik ürüne dönüştürülmesidir. Birçok önde gelen biyoteknoloji tedarik şirketi, müşterilerinin zehirli moleküller sipariş etmediğinden emin olmak için yazılımlar kullanır, ancak bu taramayı kullanmak isteğe bağlıdır.
Ancak yeni çalışmalarında Microsoft araştırmacıları, mevcut tarama yazılımlarının YZ tasarımları tarafından kandırılabileceğini buldular. Bu programlar, bir siparişteki genetik dizileri, zehirli proteinleri ürettiği bilinen genetik dizilerle karşılaştırır. Ancak YZ, aynı zehirli işlevi kodlaması muhtemel çok farklı genetik diziler üretebilir. Bu nedenle, bu YZ tarafından üretilen diziler yazılımda mutlaka bir kırmızı bayrak göstermez.
Araştırmacılar, bu sorunu bildirmek ve yazılımı yamalamak için bir işbirliği başlatmak üzere siber güvenlikten bir süreç ödünç aldılar. Şirketin baş bilim insanı Eric Horvitz, "Aylar sonra, biyogirişim taramalarını güçlendirmek için dünya çapında yamalar dağıtıldı" dedi.
Bu yamalar riski azalttı, ancak dört yaygın kullanılan tarama aracı arasında, potansiyel olarak tehlikeli gen dizilerinin ortalama %3'ü hala gözden kaçtı. Araştırmacılar, araştırmalarını yayınlarken bile güvenliği göz önünde bulundurmak zorunda kaldılar. Bilimsel makaleler tekrarlanabilir olmalıdır, yani diğer araştırmacılar bulguları kontrol etmek için yeterli bilgiye sahip olmalıdır. Ancak diziler ve yazılımlar hakkındaki tüm verilerin yayınlanması, kötü niyetli aktörlere güvenlik yamalarını atlatmanın yollarını gösterebilir.
Horvitz, "Hakemler arasında, 'Bunu nasıl yapıyoruz?' konusunda açık bir gerilim vardı" dedi.
Ekip nihayetinde, hassas verilere erişmek isteyen araştırmacıların, talebi değerlendirmek için tarafsız bir üçüncü taraf olarak hareket edecek olan Uluslararası Biyogüvenlik ve Biyogüvenlik Bilim Girişimi'ne (IBBIS) başvuracağı katmanlı bir erişim sistemi üzerinde anlaştı. Microsoft, bu hizmetin ücretini ödemek ve verileri barındırmak için bir bağış oluşturdu.
Ortak Mekanizma'dan teknik lider Tessa Alexanian, "Bu yönetilen erişim programı bir denemedir ve yaklaşımımızı geliştirmek için çok istekliyiz" dedi. Bu tür bir veri paylaşım yöntemini destekleyen ilk üst düzey bilim dergisi bu.
Başka Neler Yapılabilir?
YZ araçları etrafında henüz pek düzenleme bulunmuyor. Yeni Science makalesinde incelenen taramalar isteğe bağlıdır. Ve laboratuvarda proteinler üretebilen cihazlar var, üçüncü bir tarafa gerek yok – yani kötü niyetli bir aktör, tehlikeli moleküller tasarlamak için YZ kullanabilir ve bunları kapı bekçileri olmadan üretebilir.
Ancak, hem meslek birliklerinden hem de hükümetlerden giderek artan biyogüvenlik rehberliği var. Örneğin, ABD'de 2023'te çıkarılan bir başkanlık kararnamesi, "YZ sistemlerinin sağlam, güvenilir, tekrarlanabilir ve standartlaştırılmış değerlendirmeleri" ve riski azaltmak için politikalar ve kurumlar dahil olmak üzere güvenliğe odaklanılmasını talep ediyor. Trump yönetimi, güvenlik taramaları yapmayan şirketlere federal araştırma ve geliştirme fonlarını sınırlayacak bir çerçeve üzerinde çalışıyor.
Alexanian, "Tarama için teşvikleri benimsemeye daha fazla politikacının ilgisi olduğunu gördük" dedi.
Birleşik Krallık'ta, YZ Güvenlik Enstitüsü adlı devlet destekli bir kuruluş, YZ'den kaynaklanan riski azaltmak için politikaları ve standartları teşvik etmeyi amaçlıyor. Kuruluş, güvenlik ve risk azaltmaya odaklanan araştırma projelerini finanse ediyor, bunlara YZ sistemlerini kötüye kullanımdan korumak, üçüncü taraf saldırılarına karşı savunmak (YZ eğitim sistemlerine bozuk veri enjekte etmek gibi) ve halka açık, açık kullanımlı modellerin zararlı amaçlarla kullanılmasını önlemenin yollarını aramak dahil.
İyi haber şu ki, YZ tarafından tasarlanan genetik diziler daha karmaşık hale geldikçe, tarama araçlarının çalışması için daha fazla bilgi sağlıyor. Bu, King ve Hie'nin bakteriyofajları gibi tam genom tasarımlarının, potansiyel tehlikeler için taranmasının oldukça kolay olacağı anlamına geliyor.
Diggans, "Genel olarak, sentez taraması daha az bilgiye göre daha fazla bilgiyle daha iyi çalışır" dedi. "Bu nedenle genom ölçeğinde, inanılmaz derecede bilgilendiricidir."
Microsoft, YZ'nin YZ'nin kötü niyetini tespit etmek için yollar bulmak üzere hükümet kurumlarıyla işbirliği yapıyor. Örneğin Horvitz, şirketin tehlikeli toksinler, proteinler veya virüslerin üretiminin kanıtlarını bulmak için büyük miktarda kanalizasyon ve hava kalitesi verilerini incelemenin yollarını aradığını söyledi. Alexanian, "Taramanın nükleik asit [DNA] sentezinin o tek noktasından ve tüm ekosistemin geneline doğru hareket ettiğini göreceğimizi düşünüyorum" dedi.
YZ'nin teorik olarak yeni bir bakteri, arkeler veya daha karmaşık bir organizma türü için yepyeni bir genom tasarlayabilmesine rağmen, King'e göre şu anda bu YZ talimatlarını laboratuvarda yaşayan bir organizmaya dönüştürmenin kolay bir yolu yok. YZ tarafından tasarlanan yaşamdan kaynaklanan tehditler acil değil, ancak imkansız derecede uzak da değiller. Hernandez-Boussard'a göre, YZ'nin yakın gelecekte ortaya çıkarması muhtemel yeni ufuklar göz önüne alındığında, alan genelinde yaratıcı olmaya ihtiyaç var.
Hernandez-Boussard, "Fon sağlayıcılar, yayıncılar, sanayi, akademisyenler için bir rol var" dedi. "Gerçekten de bu multidisipliner topluluğun bu güvenlik değerlendirmelerini talep etmesi için."
