Anthropic halka arz başvurusunda yapay zekanın varoluşsal riskine dair uyarı yaptı

Popüler sohbet robotu Claude'un üreticisi Anthropic, ABD'de planlanan dev halka arzına ilişkin ayrıntıları açıklarken yapay zekanın "insanlık için felaket niteliğinde veya varoluşsal riskler oluşturabileceği" uyarısında bulundu. Şirketin piyasa değerinin, yaz aylarında yaklaşık 1,8 trilyon dolarlık ilk değerlemeyle tarihin en büyük halka arzı olan SpaceX'i geride bırakması bekleniyor.Anthropic henüz piyasaya sürülecek hisse sayısını, fiyat aralığını veya halka arz tarihini açıklamadı.Claude sohbet botunun geliştiricisi olan şirket, yılın ilk yarısında 16,3 milyar dolar gelir elde ettiğini, ancak zararlarının 80,7 milyar doları aştığını bildirdi.Nasdaq'ta ANT koduyla işlem göreceğini açıklayan Anthropic, halka açılan ilk tamamen yapay zeka odaklı şirket olacak ve bu nedenle teknolojinin geleceği açısından bir test niteliği taşıyacak.Halka arz öncesinde yaptığı başvuruda Anthropic, yapay zeka sistemlerinin insanlık için önemli bir risk oluşturduğuna dair endişelerin siyasetçiler, düzenleyici kurumlar, araştırmacılar ve şirket içindeki kişiler tarafından dile getirildiğini söyledi.Şirket, gelişmiş yapay zeka sistemlerinin "uygun güvenlik önlemleri, denetim ve koruma mekanizmaları olmadan geliştirilmesi, kullanıma sunulması ve işletilmesi halinde, özellikle bu sistemlerin kötüye kullanılması, kopyalanması, silah haline getirilmesi ya da yüksek düzeyde özerklikle çalışmasına izin verilmesi durumunda, insanlık için felaket niteliğinde veya varoluşsal riskler oluşturabileceğini" belirtti.Anthropic, beş yıl önce üst yönetici Dario Amodei, kız kardeşi Daniela Amodei ve beş kişi tarafından kuruldu ve Haziran ayında halka açılma niyetini duyurdu.Başlıca rakibi OpenAI da kısa süre sonra benzer bir adım attı. OpenAI'ın planlarına aşina bir kişinin aktardığına göre, bu şirketin halka arzının gelecek yılın başlarında gerçekleşmesi bekleniyor.Bu açıklamaların ardından, bu şirketlerin yarı özerk şekilde çalışmak üzere tasarlanan yapay zeka ajanlarını içeren siber güvenlik ihlalleri ve diğer teknolojik sorunlarda artış yaşandı.Her iki şirketin mevcut ve eski çalışanları da yapay zeka teknolojisinin, yapay zeka araçlarının gelecekte neden olabileceği olası zararları insanlıktan koruyabilecek yeterli kapasite olmadan geliştirildiği uyarısında bulundu.Riskler ve kazanımlarAnthropic pazartesi günü borsaya açılma planlarını açıklarken, Elvis Presley'nin müzik eserlerinin hak sahipleri de yapay zeka şirketine dava açtı ve Claude'u eğitmek için rock'n'roll yıldızına ait yüzlerce şarkının kullanıldığını öne sürdü.Anthropic, yeni belgelerinde, yapay zekayı insanlara fayda sağlayacak şekilde geliştirme yönündeki önceki taahhütlerini yineledi, ancak aynı zamanda yatırımcıları olası tehlikeler konusunda uyardı.Şirket, mali bildirimlerinde yılın ilk yarısındaki zararlarının gelirlerini aştığını ayrıntılı biçimde ortaya koydu, ancak ilk bakışta "sorumsuzca büyük" görünebilecek ileriye dönük yatırımlar yapacağını söyledi. Teknoloji şirketi, "Genel olarak cesur ama sağduyulu olmayı ve başarılı yatırımlardan oluşan geçmişimizle güven kazanmayı hedefleyeceğiz" dedi.Anthropic, başarısının büyük ölçüde en gelişmiş yapay zeka modellerini geliştirme kabiliyetine bağlı olduğunu belirterek, "Bunu başaramamamız işimizi olumsuz etkileyebilir" dedi.Yaklaşık 90 sayfalık risk faktörü bölümünde Anthropic, yapay zekayı güvenli ve rekabetçi biçimde geliştirme kapasitesine yönelik potansiyel tehditleri sıraladı.Şirket, büyük ölçüde bulut bilişim sağlayıcılarına, halihazırda yoğun taleple karşı karşıya olan Tayvanlı çip üreticilerine ve ABD'de yoğunlaşmış veri merkezlerine bağımlı olduğu konusunda uyarıda bulundu.Ayrıca, çocukların veya intihar riski taşıyan bireylerin yapay zeka kullanımına ilişkin endişelere atıfta bulunarak, "yapay zeka modelleriyle bağlantılı zararlardan kaynaklanan düzenleyici müdahale" riski bulunduğunu ve sistemlerinin eylemlerinden nerede ve nasıl sorumlu tutulabileceğine ilişkin belirsizlikler olduğunu belirtti.Bununla birlikte Anthropic, başvuru dosyasında teknolojinin potansiyel faydalarını da övdü ve yapay zekanın çok çeşitli alanlarda "insan faaliyetlerinin her alanında devrim yaratma kapasitesine sahip milyonlarca sanal ajanı" ortaya çıkarabileceğini öngördü.Şirket, "Yapay zekanın insanlık tarihindeki en önemli teknolojilerden biri olduğuna inanıyoruz" dedi.Anthropic ayrıca yapay zekanın biyoloji ve tıptaki ilerleme hızını "köklü biçimde artıracağını" ve kanser ile Alzheimer dahil çeşitli hastalıkların tedavilerinin bulunmasına yardımcı olabileceğini söyledi.Şirket, yapay zekanın verimliliği artırarak "ekonomik büyümede sürekli bir hızlanma" sağlayabileceğini de ekledi.'Önemli bir dönüm noktası'Yatırım yönetim şirketi Raymond James Investment'ın baş piyasa stratejisti Matt Orton, yatırımcıların Anthropic'in mali tablolarında hızlı büyüme kadar hızlı zararlar da görmeyi beklediğini, bu nedenle pazartesi günkü durumun sürpriz olmadığını söyledi.BBC'ye konuşan Orton, "Bu başvurudaki ayrıntıların ortaya çıkması piyasalara daha fazla görünürlük sağlayacaktır çünkü gelir artışının nereden geldiğini bilmemiz gerekiyor" dedi.Andersen Capital Management'ın kurucusu Peter Andersen ise Reuters'a yaptığı açıklamada, Anthropic'in halka arz planlarını "yapay zekanın gelişiminde önemli bir dönüm noktası" olarak nitelendirdi.Andersen, şirketin borsadaki ilk performansının yatırımcıların yapay zeka geliştirme çalışmalarına para aktarmaya devam etme konusundaki eğilimlerinin "oldukça iyi bir göstergesi" olacağını da sözlerine ekledi.