Tehlikeli Yapay Zekâ Sistemleri Sınırlandırılabilir: Meta’dan Kritik Güvenlik Hamlesi

Meta, siber saldırılar, kimyasal ve biyolojik tehditler gibi risk barındıran ileri düzey yapay zekâ sistemlerine yönelik önemli sınırlamalar getireceğini duyurdu.

Bilim, Teknoloji 05.02.2025, 17:21 05.02.2025, 17:22
Tehlikeli Yapay Zekâ Sistemleri Sınırlandırılabilir: Meta’dan Kritik Güvenlik Hamlesi

Şirketin yayımladığı İleri Düzey Yapay Zekâ Çerçevesi (Frontier AI Framework), hangi senaryolarda yüksek yetenekli yapay zekâ sistemlerinin paylaşılmayabileceğini ve geliştirilmesinin sınırlandırılacağını ortaya koyuyor.

Yüksek Riskli ve Kritik Riskli Sistemler: Neler Değişecek?

Meta’nın çerçevesinde, yapay zekâ sistemleri iki kategoriye ayrılıyor:

  • Yüksek Riskli Sistemler: Belirli güvenlik önlemleriyle kontrollü hale getirilebilen yapay zekâ uygulamaları.

  • Kritik Riskli Sistemler: Felaketle sonuçlanabilecek tehlikeler barındırdığı gerekçesiyle, özellikle ileri düzey siber saldırılar ve biyolojik silahların yayılmasına neden olabilecek uygulamalar. Bu tür sistemlerin geliştirilmesi durdurulacak ve ek güvenlik önlemleri uygulanacak.

    Meta, sistemlerin tehlike düzeyini belirlerken iç ve dış uzman görüşlerine başvuruyor; ancak, yapay zekâ güvenliğine dair kesin bir ölçüm standardının henüz mevcut olmadığını da kabul ediyor.

    Yapay Zekâ Açık Kaynaklı mı Olacak?

    Meta CEO’su Mark Zuckerberg, Facebook üzerinden 2025 yılına yönelik yapay zekâ gelişim beklentilerini paylaşırken, yapay zekâ sistemlerinin açık kaynaklı olması gerektiğini savundu. Ancak, şirketin benimsediği strateji tamamen açık kaynaklı bir sistemle ilerleyecekleri anlamına gelmiyor. Daha önce, Meta’nın Llama adlı yapay zekâ modellerinin en az bir ABD karşıtı aktör tarafından savunma amaçlı sohbet botu geliştirmek için kullanıldığı belirlenmişti.

    Güvenlik Önlemleri ve Geleceğe Yönelik Strateji

    Meta’nın bu adımı, siber güvenlik, kimyasal ve biyolojik tehditlere karşı geliştirilen yapay zekâ sistemlerinin denetim altında tutulmasını hedefliyor. Şirket, yapay zekâ teknolojisinin geniş kitlelere ulaşmasını desteklerken, aynı zamanda yüksek ve kritik risk taşıyan uygulamaların oluşturulması durumunda gelişimini sınırlayarak, küresel güvenliği ön planda tutmayı amaçlıyor.

Yorumlar (0)
Yorum yapabilmek için lütfen üye girişi yapınız!
5
kısa süreli hafif yoğunluklu yağmur
Günün Anketi Tümü
En çok hangi sosyal ağ sitelerini kullanıyorsunuz?
Namaz Vakti 07 Şubat 2025
İmsak 06:49
Güneş 08:21
Öğle 13:10
İkindi 15:29
Akşam 17:49
Yatsı 19:16
Puan Durumu
Takımlar O P
1. Galatasaray 21 57
2. Fenerbahçe 21 51
3. Samsunspor 21 40
4. Eyüpspor 21 39
5. Göztepe 21 34
6. Başakşehir 21 32
7. Beşiktaş 20 32
8. Kasımpaşa 21 28
9. Alanyaspor 21 28
10. Rizespor 21 27
11. Trabzonspor 20 26
12. Gaziantep FK 21 26
13. Antalyaspor 21 25
14. Konyaspor 21 24
15. Sivasspor 21 23
16. Kayserispor 20 17
17. Bodrum FK 21 16
18. Hatayspor 21 10
19. A.Demirspor 21 5
Takımlar O P
1. Kocaelispor 22 45
2. Karagümrük 22 39
3. Erzurumspor 22 37
4. Gençlerbirliği 22 36
5. Ahlatçı Çorum FK 22 35
6. Bandırmaspor 22 34
7. İstanbulspor 22 33
8. Keçiörengücü 22 33
9. Pendikspor 22 33
10. Boluspor 22 32
11. Ümraniye 22 32
12. Amed Sportif 22 31
13. Ankaragücü 22 30
14. Esenler Erokspor 22 30
15. Manisa FK 22 30
16. Şanlıurfaspor 22 28
17. Sakaryaspor 22 27
18. Igdir FK 22 26
19. Adanaspor 22 16
20. Yeni Malatyaspor 22 -21
Takımlar O P
1. Liverpool 23 56
2. Arsenal 24 50
3. Nottingham Forest 24 47
4. Chelsea 24 43
5. M.City 24 41
6. Newcastle 24 41
7. Bournemouth 24 40
8. Aston Villa 24 37
9. Fulham 24 36
10. Brighton 24 34
11. Brentford 24 31
12. Crystal Palace 24 30
13. M. United 24 29
14. Tottenham 24 27
15. West Ham United 24 27
16. Everton 23 26
17. Wolves 24 19
18. Leicester City 24 17
19. Ipswich Town 24 16
20. Southampton 24 9
Takımlar O P
1. Real Madrid 22 49
2. Atletico Madrid 22 48
3. Barcelona 22 45
4. Athletic Bilbao 22 41
5. Villarreal 22 37
6. Rayo Vallecano 22 32
7. Girona 22 31
8. Osasuna 22 30
9. Mallorca 22 30
10. Real Betis 22 29
11. Real Sociedad 22 28
12. Sevilla 22 28
13. Celta Vigo 22 25
14. Getafe 22 24
15. Las Palmas 22 23
16. Leganes 22 23
17. Espanyol 22 23
18. Deportivo Alaves 22 21
19. Valencia 22 19
20. Real Valladolid 22 15