ABD merkezli yapay zeka şirketi Anthropic’in yapay zeka modeli Claude’un “keşfettiği” duyurulan enzim sistemi üzerinde yıllardır çalışan biyolog Mario Rodriguez Mestre, keşfin kendi araştırmalarıyla büyük ölçüde örtüştüğünü ve bunun “otonom yapay zeka keşfi” olarak tanımlanmasını sorguladığını belirtti.
ABD merkezli yapay zeka şirketi Anthropic’in 24 Eylül’de, geliştirdiği Claude modeli yardımıyla yeni bir enzim sisteminin keşfedildiğini duyurmasının üzerine bu durum, yapay zekanın bilimsel keşiflerdeki rolüne ilişkin dikkati çekici bir örnek oldu.
Bu konuda uzun yıllardır ekibiyle çalışmalar yürüten ancak bulgularını kamuoyuyla henüz paylaşmayan biyolog, bunun “otonom yapay zeka keşfi” olarak tanımlanmasından endişeli.
Bu gelişme ayrıca başarının yapay zeka aracına mı yoksa insan emeğine mi atfedileceği yönünde yeni bir etik tartışma doğururken, insan emeğinden beslenerek kendini eğiten yapay zekanın “hırsızlık” yapmış olabileceği sorusunu akıllara getiriyor.
“Claude yeni bir enzim sistemi keşfetti”
Anthropic’in internet sitesinden yapılan açıklamaya göre, yaklaşık 950 Claude ajanına DNA dizilimlerinden oluşan büyük bir veri tabanı içinde RNA’dan DNA sentezleyen ve “ters transkriptaz (RT)” adı verilen enzimlerin “yeni ve ilginç örneklerini” bulması yönünde komut verildi.
Yaklaşık 21 saatin ardından ajanlardan biri “dikkati çekici” bir bulguya rastladı. Kendine özgü DNA yazılımı ve işlevi bilinmeyen ek bir yardımcı proteini bulunan bu enzim sisteminin “tanımlayıcı özellikleri” ilk defa Claude tarafından fark edildi.
Anthropic’in “Claude, yeni bir enzim sistemi keşfetti.” açıklaması, bu enzim sistemi üzerinde uzun yıllardır çalışan Kopenhag Üniversitesinden biyolog Mestre’nin yapay zekanın kendi araştırmalarından yararlanmış olabileceğinden şüphelenmesine yol açtı.
“Otonom keşif” tanımına temkinli
Biyolog Mestre, AA muhabirine yaptığı açıklamada, Claude’un bu sonuca, kendisi ve ekibinin bu enzim sistemi üzerine yaptığı çalışmalarla yönlendirilmiş olabileceğini söyleyerek Claude’un keşfinin, kendi çalışmalarıyla “çok yakından örtüştüğünü” vurguladı.
Araştırma sürecinde Claude’a sık sık başvurduğunu belirten Mestre, “Araştırmalarım sırasında Claude’u da oldukça yoğun kullandım. Buna bilimsel analizler ve henüz yayımlanmamış çalışmalar üzerine yaptığım görüşmeler de dahildi. Uzantılar sayesinde Claude, projelerimizin bulunduğu Google Drive ve Slack mesajları da dahil olmak üzere araştırma ortamımın bazı bölümlerine erişebiliyordu.” dedi.
Anthropic’in “ARTs” olarak tanımladığı sistemin, “jumbotrons” adı verdikleri ve dev virüslerde bulunan özel bir genetik sistemle örtüştüğünü aktaran Mestre, “Burada söz konusu olan yalnızca benzer protein aileleri değil, aynı virüslerde bulunan aynı genler.” diye konuştu.
Mestre, Claude’un, henüz yayımlanmamış araştırmalarından elde edilen bilgiler ışığında bu sonuca varıp varmadığı konusunda kesin bir yorum yapamayacağının da altını çizerek “Ancak sonucun ‘otonom bir yapay zeka keşfi’ olarak tanımlanmasını ciddi biçimde sorguluyorum.” ifadesini kullandı.
Biyolog Mestre, Claude’a, RNA’dan DNA sentezleyen “ters transkriptazlar” üzerine oldukça sınırlı bir biyolojik problem komutu verildiğini ve modelin analiz ettiği veri setinin de daha önceden uzmanlarca hesaplandığını söyledi.
Dolayısıyla modelin kendi analizini oluşturmak yerine uzmanların daha önceden belirlediği bir araştırma alanı içinde çalıştığına işaret eden Mestre, bu yüzden Claude’un sonucunun, bağımsız bir keşif olarak değerlendirilmesine endişeyle yaklaştığını dile getirdi.
Mestre, Claude bu sonuca kendi çalışmalarından tamamen bağımsız şekilde varmış olması durumunda bile “Söz konusu süreci tamamen otonom bir bilimsel keşiften ziyade yapay zeka destekli bilimsel çalışma olarak tanımlardım.” dedi.
Yapay zeka çağında bilimsel araştırmalarda veri kontrolü
Mestre, yapay zeka şirketlerinin, yayımlanmamış makalelerin, modellerin eğitiminde kullanılmasını önlemek için alması gereken önlemlere ilişkin şunları kaydetti:
“Araştırmacılara verileri üzerinde çok daha açık ve ayrıntılı kontrol imkanı tanınmalı. Bu kapsamda şeffaf veri saklama politikaları uygulanmalı, belirsiz varsayılan seçenekler yerine açık rıza alınmalı, modelin çıkarım sürecinde elde ettiği veriler ile eğitim verileri net biçimde ayrılmalı ve bir yapay zeka aracısının hangi bağlantılı hizmetlere erişebileceği denetlenebilir şekilde kontrol edilebilmeli.”
Mestre, hassas bilimsel araştırmalarda, verilerin dışarıya aktarılmadığı özel yapay zeka sistemleri ile kurumların kendi kontrolünde çalıştırdığı açık kaynaklı yapay zeka modellerinin giderek daha önemli hale geleceğini ifade etti.
Kendi çalışmalarının temelini oluşturan genomik verilerin büyük bölümünün kamuya açık veri tabanlarından geldiğini kaydeden Mestre, öte yandan birçok araştırmacı için ticari bir yapay zeka sistemine çalışmalarına ve verilerine geniş erişim izni vermenin çok daha ciddi sonuçlar doğurabileceğini belirtti.
Yapay zekanın artık bilimsel araştırmaların bir parçası olduğuna ve bu durumun değişmesinin beklenmediğine işaret eden Mestre, “Asıl önemli soru, bilim insanlarının yayımlanmamış çalışmaları, gizli verileri ve fikirlerinin kaynağı üzerindeki kontrolünü kaybetmeden yapay zekadan yararlanabilmelerini sağlayacak altyapı ve uygulamaları nasıl oluşturacağımız.” dedi.