Amerika Birleşik Devletleri Gıda ve İlaç Dairesi (FDA), kurum çapında yapay zeka araçlarını hızla benimsemeye çalışırken, çalışanlar tarafından aceleye getirilmiş, hatalı, abartılmış ve yetersiz olarak nitelendirildiği bildiriliyor.
Geçtiğimiz günlerde FDA, 'Elsa' adı verilen büyük bir dil modelinin kurum çapında kullanıma sunulduğunu duyurdu. Bu aracın, bilimsel incelemecilerden araştırmacılara kadar tüm FDA çalışanlarına yardımcı olması hedefleniyor. FDA, üretken yapay zekanın halihazırda klinik protokol incelemelerini hızlandırmak, bilimsel değerlendirmeler için gereken süreyi kısaltmak ve yüksek öncelikli denetim hedeflerini belirlemek için kullanıldığını belirtti.
Duyuruda, aracın olumsuz olayları özetleyerek güvenlik profili değerlendirmelerini destekleyebileceği, etiket karşılaştırmalarını daha hızlı yapabileceği ve klinik olmayan uygulamalar için veri tabanları geliştirmeye yardımcı olacak kodlar üretebileceği vadedildi.
Kurum yetkilileri, aracın kullanımına başlanmasını büyük bir başarı olarak duyururken, belirlenen agresif zaman çizelgesinin önünde ve bütçe dahilinde ilerlediklerini vurguladılar.
Aceleye Getirilmiş ve Hatalı
Ancak, bazı raporlara göre Elsa'nın geliştirilmesi için biraz daha zamana ihtiyacı olabilirdi. FDA personelinin aracı kurum tarafından onaylanmış ürünler veya diğer kamuya açık bilgilerle ilgili sorularla test ettiğinde, tamamen veya kısmen yanlış özetler sunduğu gözlemlendi.
Kurum içinden konuşan FDA çalışanları, aracın 'aceleye getirildiğini' ve yetkililer tarafından yeteneklerinin abartıldığını belirtti. Çalışanlar, mevcut haliyle aracın bilimsel görevler yerine yalnızca idari işler için kullanılması gerektiğini düşünüyor.
Bir çalışan, yapay zekanın personelin yerini alamayacağını veya inceleme sürelerini kısaltamayacağını ifade etti. Ayrıca, FDA'nın aracın kullanımı için yeterli güvenlik önlemleri ve politikalar oluşturmada yetersiz kaldığını, aceleyle kullanıma sunulması nedeniyle bu konuların yeterince düşünülmediğinden endişelendiğini dile getirdi.
Edinilen bilgilere göre Elsa, Anthropic'in Claude adlı büyük dil modeline dayanıyor ve bir danışmanlık firması tarafından geliştiriliyor. Bu firma, 2020'den beri Elsa'nın eğitim verilerinin türetildiği FDA belgelerinin orijinal veri tabanını geliştirmek için önemli miktarda ödeme almış. Ayrıca, aracın kurum genelinde ölçeklendirilmesi için de ayrı bir sözleşme imzalanmış. FDA, Elsa'nın yüksek güvenlikli bir bulut ortamında inşa edildiğini ve FDA çalışanları için dahili belgelere erişim sağlayan, ancak tüm bilgilerin kurum içinde kalmasını garantileyen güvenli bir platform sunduğunu belirtti.
Daha önce FDA bünyesindeki her birim kendi yapay zeka pilot projesi üzerinde çalışıyordu. Ancak maliyet kısıtlamalarının ardından, FDA'nın bir birimi tarafından geliştirilen bir pilot proje (CDER-GPT olarak biliniyordu), kurum çapında kullanılacak versiyon olarak seçildi ve Elsa adıyla yeniden markalandırıldı. Başka bir birimin kendi geliştirdiği pilot projenin (CDRH-GPT), hala hatalı olduğu, internete veya FDA'nın dahili sistemine bağlı olmadığı ve belge yükleme veya soru sorma gibi temel işlevlerde sorunlar yaşadığı bildiriliyor.
