Fethiye'de ✍️🖋 DYN د ي ن Life & Live E L L H ال ل ه Asist System. — Fethiye’de ✍️🖋 DYN د ي ن Life & Live E L L H ال ل ه Asist System | haberodasi.com ✍️🖋 Helal El Diyar Medya · Bilim-Teknoloji · Yapay Zekâ · DonanımHaber arşivi.
Yapay Zeka Özeti:
- OpenAI, yapay zeka modellerini acil durumlarda durdurabilen Control Room adlı yeni bir güvenlik sistemini kullanıma sundu. Araştırma altyapısına eklenen bu yapı, riskli görülen görevlerin yeni çıktı üretmesini en fazla 35 saniyede engelleyebiliyor. Sistem, olası arıza veya müdahalelerde merkezi kontrolünü kaybederse varsayılan olarak tüm talepleri reddederek güvenli tarafta kalıyor. Yeni mekanizma, otonom yapay zeka ajanlarının kontrolünü kolaylaştırmayı amaçlıyor.
Bu habere ait diğer ses dosyaları:
Seslendirme ve özetler yapay zeka ile oluşturulmuştur.
Yapay zeka modellerinin giderek daha yetenekli hale gelmesi, güvenlik ve kontrol mekanizmalarının önemini artırıyor. Özellikle kendi başına işlem yapabilen ajan tabanlı sistemler, model eğitimi ve yüksek hacimli veri işleme süreçleri yeni riskler ortaya çıkarıyor. OpenAI da bu riskleri azaltmak amacıyla Control Room sistemini araştırma altyapısına entegre etti.
Geleneksel izleme sistemlerinden farklı olarak Control Room yalnızca şüpheli davranışları tespit edip uyarı vermekle yetinmiyor. Sistem, gerekli görüldüğünde ilgili araştırma görevlerinin yapay zeka modellerinden yeni çıktılar almasını doğrudan engelleyebiliyor. Böylece potansiyel olarak tehlikeli bir davranış tespit edildiğinde müdahale için araştırmacıların ilgili yazılımın kendi güvenlik mekanizmalarına güvenmesi gerekmiyor.
Control Room nasıl çalışıyor?
Control Room üç temel bileşenden oluşuyor: Araştırma iş yükü, çıkarım motoru (inference engine) ve merkezi Control Room servisi. Araştırmacılar yeni bir deney veya görev başlattığında ilgili iş yükü öncelikle Control Room sistemine kaydoluyor ve kendisine özel bir iş kimliği atanıyor. Ayrıca ajan tabanlı çıkarım kullanan her araştırma iş yükünün onaylanmış bir güvenlik değerlendirmesiyle ilişkilendirilmesi gerekiyor.
Modelden çıktı talep edildiğinde ilgili iş yükü, kendisine atanan kimliği çıkarım motoruna iletiyor. Çıkarım motoru ise isteği karşılamadan önce Control Room üzerinden gerekli yetkiyi kontrol ediyor. Görev hala çalışmasına izin verilen işler arasındaysa model çıktı üretmeye devam ediyor.
Ancak bir araştırmacı veya izleme sistemi ilgili görevin durdurulmasına karar verirse Control Room, söz konusu iş kimliğini sonlandırılmış olarak işaretliyor. Bundan sonraki model çıkarım talepleri reddediliyor ve ilgili görev yeni çıktı alamıyor. Böylece iş yükünün kendi kodu durdurma kararını dikkate almasa bile modelin yeni çıktılar üretmesinin önüne geçiliyor.
Model çıktıları en fazla 35 saniyede durduruluyor
Control Room sisteminin en dikkat çekici özelliği, müdahale hızını belirli bir sınır altında tutması. OpenAI, sistemin durdurma talebini aldığı andan itibaren modelin yeni ilerleme kaydetmesinin imkansız hale gelmesine kadar geçen sürenin en fazla 35 saniye olduğunu belirtiyor.
Bu gecikmenin temel nedeni, yüksek miktardaki çıkarım talebini karşılamak için kullanılan yetkilendirme önbelleği. OpenAI, bu teknik sınırlamayı ortadan kaldırarak müdahale süresini sıfıra indirmek ve görevleri anında durdurabilmek için çalışmalar yürüttüğünü söylüyor.
Burada önemli bir ayrıntı bulunuyor. Control Room, ilgili araştırma sürecinin bütün bilgisayar işlemlerini mutlaka sonlandırmıyor. Bunun yerine modelin yeni çıktılar üretmesini engelliyor. Araştırma sürecinin kodu çalışmaya devam edebilirken, ilgili çıkarım motoru diğer yetkili görevler için hizmet vermeyi sürdürebiliyor.
Sistem kendisi devre dışı kalırsa ne oluyor?
OpenAI, Control Room'u yalnızca hızlı müdahale edebilen bir sistem olarak değil, olası arızalara karşı da dayanıklı olacak şekilde tasarladığını belirtiyor. Bu kapsamda sistem, fail-closed adı verilen güvenlik yaklaşımını kullanıyor.
Bu yaklaşımda Control Room servisi teknik bir arıza nedeniyle devre dışı kalırsa veya kötü niyetli bir müdahaleyle etkisiz hale getirilirse çıkarım motorları yeni model çıktısı üretmek için gelen tüm talepleri reddediyor. Başka bir ifadeyle merkezi kontrol mekanizmasına erişilemediğinde sistem varsayılan olarak çalışmaya devam etmek yerine güvenli tarafta kalmayı tercih ediyor.
OpenAI, bu koruma mekanizmasının en gelişmiş modellerin araştırıldığı tüm öncü model iş yüklerinde devreye alındığını söylüyor. Şirket, kalan araştırma iş yüklerine yönelik dağıtımın da birkaç gün içerisinde tamamlanacağını belirtiyor. Ayrıca sistemin doğru uygulanıp uygulanmadığını kontrol etmek için otomatik denetimler gerçekleştiriliyor.
AI ajanlarının güvenliği için yeni bir kontrol katmanı
Control Room, OpenAI'ın yapay zeka modellerindeki olası uyumsuz davranışları tespit etmek için kullandığı izleme sistemleriyle birlikte çalışıyor. Şirket, özellikle öncü pekiştirmeli öğrenme (reinforcement learning) çalışmalarında modellerin davranışlarını inceleyen başka yapay zeka modellerinden yararlanıyor. Bu izleyiciler, eğitim sürecindeki modelin faaliyetlerini takip ederek olası sorunları tespit ettiklerinde uyarı oluşturabiliyor.
OpenAI, yakın zamanda yaşanan DNS ile ilgili bir güvenlik olayının da bu izleme mekanizmalarından biri tarafından tespit edildiğini belirtiyor. Böyle bir durumda izleme sistemi, olayın niteliğine ve ciddiyetine bağlı olarak ilgili araştırma görevinin durdurulmasını isteyebiliyor.
Şirket, Control Room'un halihazırda araştırma altyapısında kullanıldığını ve önümüzdeki aylarda sistemin daha da geliştirileceğini söylüyor.
Eposta ile Paylaşın başlıklı bu arkadaşınıza postalayın. Bu haberi ve diğer DH içeriklerini, gelişmiş mobil uygulamamızı kullanarak görüntüleyin:
Green Goblin’in uçan kaykayı gerçeğe dönüştü
#fethiyede #haberodasi #HelalElDiyarMedya #kimkimdir #koseyazari #bilimteknolojiyapayzekdonanimhaber
openai'dan, yapay, zekalar, için, acil, durdurma, sistemi, saniyede, devreye, giriyor, zeka, özeti, haberodasi.com, Fethiyede, Bilim-Teknoloji · Yapay Zekâ · DonanımHaber
Fethiye'de ✍️🖋 DYN د ي ن Life & Live E L L H ال ل ه Asist System.
