Ethereum kurucusundan yapay zeka uyarısı

Buterin'in değerlendirmesi, Moonshot AI'ın Kimi K3.1 Pro modelinde yaptığı değişikliğe dayanıyor. Şirket, modelin eğitiminden siber saldırılarda kullanılabilecek bazı verileri çıkardı. Buterin, X paylaşımında kullanım biçimlerini sınırlamayı, insanların kimliğine göre erişim kısıtlaması getirilmesine tercih ettiğini belirtti.

VİTALİK KİMLİK KONTROLLERİNE DİKKAT ÇEKTİ

Buterin'e göre güçlü yapay zeka saldırıları yaygınlaşmadan önce geliştiricilerin mevcut sistemleri güçlendirmesi gerekiyor. Eski kodların incelenmesini ve yeni yazılımların güvenliğinin matematiksel yöntemlerle doğrulanmasını, bu hazırlığın parçaları arasında sayıyor.

Ethereum kurucu ortağı, ilk büyük yapay zeka risklerinin kötü yönetilmesinin başka sorunlar yaratabileceğini de belirtti. Böyle bir durumda kapalı ve sıkı denetlenen modellerin, yaygın kimlik doğrulama zorunluluklarının ve müdahaleci gözetimin öne çıkabileceği görüşünü paylaştı.

Buterin uyarısında, insanların yapay zekaya erişiminin vatandaşlıklarına ve sahip oldukları belgelere göre farklılaşması da yer alıyor. Bu ihtimalin, bazı kullanıcıları diğerlerine göre daha düşük erişim haklarına sahip konuma düşürebileceğini savunuyor.

KİMİ SALDIRI YETENEĞİNİ SINIRLADI

Moonshot AI, genel amaçlı kodlama görevlerini korurken güvenlik açıklarını bulma ve kullanma yeteneklerini sınırlamaya çalıştığını açıkladı. Şirketin kendi testinde, bu önlemlerin uygulanmadığı model görevlerin yüzde 90,5'ini tamamladı. Kullanıma sunulan sürümde oran yüzde 81 oldu.

Aradaki 9,5 puanlık fark, şirketin test koşullarındaki performansı gösteriyor. Sonuç, gerçek dünyadaki saldırıların aynı oranda azalacağı anlamına gelmiyor. Moonshot AI da modelin genel kodlama becerilerindeki ilerlemenin, bazı eğitim verileri çıkarılsa bile siber güvenlik görevlerine yansıdığını belirtiyor.

Şirket, açık biçimde paylaşılacak modellerin savunma amacıyla da kullanılabileceği görüşünde. Kullanıcıların kendi sistemlerinde çalıştırabileceği bu araçların, yeterince incelenmeyen eski yazılımlar dahil daha fazla kodun denetlenmesini sağlayabileceğini savunuyor.

Kimi K3.1 Pro, şirketin uygulamaları ve geliştirici hizmetleri üzerinden kullanıma sunuldu. Moonshot AI, modelin kullanıcıların kendi donanımlarında çalıştırılmasını sağlayan ağırlıklarını 4 Kasım'a kadar yayımlamayı planlıyor.

Serkan KÖSE

Haberler.com