California Valisi Newsom'dan yapay zeka için 'acil kapatma tuşu' hamlesi

Yapay zeka teknolojisinin güvenliği ve denetimine ilişkin tartışmalar sürerken California'dan yeni bir adım geldi. Vali Gavin Newsom, son dönemde ortaya çıkan riskli yapay zeka vakalarının ardından sektörde daha sıkı denetim uygulanmasını öngören kararnameyi imzaladı.

Kararnameyle yapay zeka geliştiren şirketlerin bağımsız biçimde denetlenmesi ve modellerin gerektiğinde devre dışı bırakılmasını sağlayacak "acil kapatma tuşu" çalışmalarının hızlandırılması hedefleniyor.

YAPAY ZEKA GÜVENLİĞİ İÇİN KILAVUZ HAZIRLANACAK

Kararname kapsamında California'nın yapay zeka güvenliğine yönelik yasalarının güçlendirilmesi amacıyla uzmanlardan oluşan bir grup iki ay içinde bir araya gelerek kılavuz hazırlayacak.

Newsom, federal hükümetin yapay zeka alanında anlamlı bir denetim ve hesap verebilirlik mekanizması oluşturamadığını savunarak, yapay zeka şirketlerinin yöneticilerinin de düzenleme çağrısında bulunduğunu ifade etti.

Yapay zekanın taşıdığı risklerin harekete geçmeyi ertelemeye imkan vermeyecek seviyede olduğunu belirten Newsom, kapsamlı denetim çalışmalarını "çok geç olmadan" hızlandıracaklarını kaydetti.

ABD'nin teknoloji merkezi olarak öne çıkan California, yapay zeka sektörünün önde gelen şirketlerine ev sahipliği yapıyor.

ANTHROPIC CEO'SUNDAN "GELİŞİM YAVAŞLATILSIN" ÖNERİSİ

Yapay zekanın güvenliği konusunda farklı çevrelerden de düzenleme çağrıları geliyor. ABD merkezli yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, şirket araştırmacısı Jacob Coxon'ın yapay zeka geliştirme sürecinin sorumlu yürütülmediği gerekçesiyle istifasının ardından konuya ilişkin bir makale yayımladı.

Amodei, yapay zeka teknolojisinin hızlı gelişiminin sistemleri anlama ve kontrol etme kapasitesini zorlayabileceği uyarısında bulunarak, teknolojinin gelişim hızının denetime daha fazla imkan sağlayacak şekilde yavaşlatılmasını önerdi.

Yapay zeka şirketlerinin ortak hareket ederek güvenlik standartları oluşturması gerektiğini belirten Amodei'nin önerisine Elon Musk destek verdi. OpenAI CEO'su Sam Altman da öneriye katıldığını ve bağımsız değerlendirme konusunda benzer bir adım atacağını açıkladı.

ABD Başkanı Donald Trump ise yapay zeka ve veri merkezlerine yönelik eleştirileri "hastalıklı bir komplo" olarak nitelendirerek, bundan memnuniyet duyacak tek tarafın Çin olduğunu savundu.

Çin Dışişleri Bakanlığı Sözcüsü Guo Ciakun ise korkuların körüklenmesi, cepheleşme ve sert rekabetin küresel yapay zeka yönetimine zarar vereceğini belirterek bunun hiçbir tarafın çıkarına olmadığını ifade etti.

Kaynak: {Haber Merkezi}