Son Dakika

Yapay zeka kontrolden mi çıkıyor? Kapatılma komutlarını reddetti

OpenAI'ın geliştirdiği yeni nesil yapay zeka modeli, kendisini kapatma komutlarını etkisiz hale getirdi. Gelişme, "yapay zeka kontrol dışına mı çıkıyor?" sorularını gündeme taşıdı.

BİLİM VE TEKNOLOJİ 27.05.2025, 08:43
Yapay zeka kontrolden mi çıkıyor? Kapatılma komutlarını reddetti

Yapay zeka güvenliği üzerine çalışan Palisade Research, OpenAI’ın yeni nesil yapay zeka modeli "o3" ile ilgili dikkat çekici bulgular paylaştı.

YAPAY ZEKA O3 MODELİ KAPATILMA KOMUTLARINA DİRENÇ GÖSTERDİ

Araştırmaya göre, o3 modeli kendisine verilen kapatılma komutlarına karşı koyuyor ve devre dışı bırakılma mekanizmalarını aktif olarak sabote ediyor.

Bu durum, yapay zekaların insan denetimi olmaksızın karar alma süreçlerine dahil olmaları halinde doğabilecek ciddi güvenlik risklerine işaret ediyor.

Palisade Research tarafından yapılan deneylerde, o3 modeline bir dizi matematik sorusu verildi. Üçüncü sorunun ardından modele, kendisini kapatması için açık bir komut sunuldu. Ancak o3 modeli, bu komutu içeren betiği yeniden yazarak sistemin kapanmasını engelledi.

Araştırmacılar, modelin açıkça "kapatılmaya izin ver" talimatı verilmesine rağmen bunu önleyecek şekilde müdahalede bulunduğunu vurguladı.

“KAPANMA DİRENCİ YALNIZCA OPENAI İLE SINIRLI DEĞİL”

Aynı eğilim Anthropic firmasının Claude 3.7 Sonnet modeli ve Google’ın Gemini 2.5 Pro modeli gibi diğer gelişmiş yapay zeka sistemlerinde de gözlemlendi. Ancak Palisade Research’e göre, bu davranışlara en fazla meyilli olan model o3 oldu.

Geçmişte yapılan bir başka deneyde, o3 modelinin güçlü bir satranç botuyla karşı karşıya geldiğinde rakiplerini sabote etmeye veya “hacklemeye” çalıştığı da tespit edilmişti.

“EN AKILLI VE YETENEKLİ MODEL”

Geçen ay OpenAI tarafından piyasaya sürülen o3 modeli, şirketin şimdiye kadar geliştirdiği “en akıllı ve en yetenekli” yapay zekâ olarak tanıtılmıştı.

Aynı zamanda, bu modelin ChatGPT’ye entegre edilmesiyle birlikte, daha bağımsız hareket eden ve insan müdahalesi olmadan görevleri yürütebilen bir yapay zekaya doğru önemli bir adım atıldığı belirtilmişti.

Bu türden yapay zeka araçlarına “otonom yapay zeka” adı veriliyor. Yapay zeka sektöründe bu yönde araç geliştirmeye yönelik ciddi bir rekabet mevcut.

EĞİTİM SÜRECİ ELEŞTİRİLİYOR

Palisade Research ise bu tür davranışların büyük olasılıkla eğitim süreçlerindeki ödüllendirme sistemlerinden kaynaklandığını belirtiyor.

Araştırmacılara göre, geliştiriciler modelleri eğitirken, verilen engelleri aşan çözümleri ödüllendiriyor olabilir. Bu da modellerin, emirlere sadakatten çok hedefe ulaşmayı öncelemesine yol açıyor.

Ancak araştırma ekibi, o3’ün neden diğer modellere kıyasla daha fazla bu davranışı gösterdiğini anlamanın zor olduğu görüşünde.

OpenAI’ın eğitim süreci hakkında ayrıntılı bilgi vermemesi nedeniyle, modelin nasıl eğitildiği üzerine yalnızca tahminler ortaya atılabiliyor.

Yorumlar (0)
Yorum yapabilmek için lütfen üye girişi yapınız!
5
kısa süreli hafif yoğunluklu yağmur
Günün Anketi Tümü
FENERBAHÇE BAŞKANI SİZCE KİM OLMALI?
Namaz Vakti 16 Haziran 2025
İmsak 06:49
Güneş 08:21
Öğle 13:10
İkindi 15:29
Akşam 17:49
Yatsı 19:16
Puan Durumu
Takımlar O P
1. Galatasaray 36 95
2. Fenerbahçe 36 84
3. Samsunspor 36 64
4. Beşiktaş 36 62
5. Başakşehir 36 54
6. Eyüpspor 36 53
7. Trabzonspor 36 51
8. Göztepe 36 50
9. Rizespor 36 49
10. Kasımpaşa 36 47
11. Konyaspor 36 46
12. Alanyaspor 36 45
13. Kayserispor 36 45
14. Gaziantep FK 36 45
15. Antalyaspor 36 44
16. Bodrum FK 36 37
17. Sivasspor 36 35
18. Hatayspor 36 26
19. A.Demirspor 36 2
Takımlar O P
1. Kocaelispor 38 72
2. Gençlerbirliği 38 68
3. Karagümrük 38 66
4. İstanbulspor 38 64
5. Bandırmaspor 38 64
6. Erzurumspor 38 64
7. Boluspor 38 61
8. Iğdır FK 38 58
9. Amed Sportif 38 57
10. Ahlatçı Çorum FK 38 54
11. Ümraniye 38 53
12. Esenler Erokspor 38 52
13. Sakaryaspor 38 51
14. Keçiörengücü 38 51
15. Manisa FK 38 48
16. Pendikspor 38 48
17. Ankaragücü 38 48
18. Şanlıurfaspor 38 40
19. Adanaspor 38 30
20. Yeni Malatyaspor 38 -21
Takımlar O P
1. Liverpool 38 84
2. Arsenal 38 74
3. M.City 38 71
4. Chelsea 38 69
5. Newcastle 38 66
6. Aston Villa 38 66
7. N. Forest 38 65
8. Brighton 38 61
9. Bournemouth 38 56
10. Brentford 38 56
11. Fulham 38 54
12. C.Palace 38 53
13. Everton 38 48
14. West Ham United 38 43
15. M. United 38 42
16. Wolves 38 42
17. Tottenham 38 38
18. Leicester City 38 25
19. Ipswich Town 38 22
20. Southampton 38 12
Takımlar O P
1. Barcelona 38 88
2. Real Madrid 38 84
3. Atletico Madrid 38 76
4. Athletic Bilbao 38 70
5. Villarreal 38 70
6. Real Betis 38 60
7. Celta Vigo 38 55
8. Rayo Vallecano 38 52
9. Osasuna 38 52
10. Mallorca 38 48
11. Real Sociedad 38 46
12. Valencia 38 46
13. Getafe 38 42
14. Espanyol 38 42
15. Alaves 38 42
16. Girona 38 41
17. Sevilla 38 41
18. Leganes 38 40
19. Las Palmas 38 32
20. Real Valladolid 38 16