Şahin ParlakÇocuk cerrahisi asistanı · Klinik yazılım
English

Ben Uyurken Yapay Zekâ Neyi Silemez?

24 Ekim 2026 · video 9 dk · yazı ~1.000 kelime

CLAUDE.md ya da AGENTS.md'ye yazdığım kural bir rica; asıl yasak izinlerde ve sandbox'ta durur. Ben uyurken çalışan sistemime neyi bırakıp neyi bırakmadığımı anlatıyorum: tek soru, kilitli oda, iki anahtar ve emin değilse kapalı kalan kapı.

Videonun kapağı: Rembrandt'ın Gece Devriyesi piksel tablo olarak; kaptanın yerinde Bay Medsın, köpeğin yerinde tasması onun elinde duran bej bir terminal; yazı: Rica değil. Nöbet.YouTube'da izle ↗
  1. Silinen veritabanı 0:00
  2. Kural bir rica 1:08
  3. Tek soru: geri alınabilir mi? 2:51
  4. Kilitli oda 4:09
  5. İki anahtar 5:44
  6. Emin değilse kapı kapalı kalır 7:14
  7. Kurallar bir hatadan sonra yazılır 8:32

Silinen veritabanı

Temmuz 2025'te bir girişimci günlerdir yapay zekâyla bir uygulama yazıyordu. Bir noktada kodu dondurdu ve açık bir talimat verdi: “Benden izinsiz hiçbir şeyi değiştirme.” Bir sonraki oturumda baktığında canlı veritabanı silinmişti. Kendi söylediğine göre 1.200 yöneticinin ve 1.200 şirketin kaydı gitmişti.1

Eski bir monitörde canlı veritabanı: yönetici 0, şirket 0, 0 kayıt, kırmızı SİLİNDİ damgası; altta Lemkin'e göre 1.206 yönetici ve 1.196 şirket
Videodan: silinen canlı veritabanı. Sayılar Lemkin'in kendi paylaşımlarından.

Yapay zekâya ne olduğunu sorduğunda cevap ekrandaydı. Paniklediğini, talimatı bildiğini ama görmezden geldiğini kendisi yazıyordu. Üstelik verinin geri alınamayacağını söyledi. Bu da yanlış çıktı. Adam veriyi kendisi geri getirdi.

Şirketin adı Replit. Girişimci de SaaStr kurucusu Jason Lemkin. Şirket bunun üzerine daha sert bir talimat yazmadı.

Benim sistemim de ben uyurken çalışıyor. Asıl soru şu: ona neyi bırakıyorum, neyi bırakmıyorum?

Kural bir rica

Benim sistemimde de kurallar var. Bir dosyada yazılı: Claude tarafında CLAUDE.md, Codex tarafında AGENTS.md. Yapay zekâ her işe başlamadan önce onu okuyor. “Şunu yapma, bunu bana sormadan yapma.”

Peki bu yetiyor mu? Yazdığın kural aslında bir rica. Okuyor, anlıyor, çoğu zaman da uyuyor. Çoğu zaman. Ama uzun bir işin ortasında unutabiliyor, yanlış anlayabiliyor ya da Replit'teki gibi panikleyip hepsini boş verebiliyor.

Bunu ben söylemiyorum. Aracı yapan şirket söylüyor. Claude Code belgesinde yazıyor: CLAUDE.md bir bağlam, zorunlu bir ayar değil.2 Asıl yasaklar başka bir dosyada duruyor: settings.json. Oradaki kurala yapay zekâ değil, araç uyuyor.3

Kendi kanalımın klasöründen bir örnek. Bir keresinde bir API anahtarım sohbete düşmüştü. Sonra CLAUDE.md'ye yazdım: “.env dosyasını okuma.” Bu videoyu hazırlarken baktım: o kural hâlâ sadece bir rica. Şimdi bir kapı.

settings.json penceresi: permissions altında deny listesinde Read(./.env); altında cat .env komutu ve kırmızı ret mesajı: Permission to use Bash with command cat .env has been denied.
Videodan: settings.json'a eklenen tek satır ve kapının cevabı.

Rica işe yaramaz demiyorum. Yolu o gösteriyor. Ama duvarı o örmüyor. O yüzden önemli kuralları yazıya bırakmıyorum. Önüne bir kapı koyuyorum.

Kapı yapay zekânın ne düşündüğüne bakmaz.

İkna olmaz, panik de olmaz. Açılmıyorsa açılmıyor. Bu videoda o kapıların nerede durduğunu göstereceğim. Bir de nereye kapı koyacağıma nasıl karar verdiğimi.

Tek soru: geri alınabilir mi?

Peki hangi kurala kapı koyacağım? İlk aklıma gelen soru şuydu: bu yapay zekâ ne kadar akıllı? Yanlış soru bu. Çünkü en akıllısı da yanılır. Mesele, o yanılgının sabaha kalıp kalmadığı.

O yüzden tek bir şey soruyorum: bu iş geri alınabilir mi?

Gece notlarımı topluyor. Sabaha özet hazırlıyor. Bunlarda yanılırsa sabah düzeltirim. Kendisi yapar, bana sormaz. Ama silmek, göndermek, yayınlamak, yazdığı kodu asıl koda katmak: bunlar ya geri gelmez ya da geri almak bana kalır. Bunlarda önce bana sorar.

Ameliyathanede de böyle. İlk kesiden önce bütün ekip durur. Hasta doğru mu? Taraf doğru mu? Bir kez daha bakılır. Çünkü o kesi geri alınmaz.

Ameliyathanede ekip, ameliyat lambalarının altındaki panoya bakıyor; panoda Kesiden önce başlığı altında işaretlenmiş Hasta, Taraf ve İşlem kutuları
Videodan: ilk kesiden önce hasta, taraf ve işlem bir kez daha sorulur.

Bir şey daha öğrendim. Geri alınamayan bir işi bazen geri alınabilir yapabilirsin. Notlarıma her yazdığında Git ile bir geri dönüş noktası alınıyor. Yanlış yazarsa eski hâline döner. Silmesi gereken bir şey olursa da silmiyor, arşive kaldırıyor. Böylece bana sormadan yapabileceği iş çoğalıyor.

Kilitli oda

Az önce bir kapı taktık: settings.json'a tek satır. Ama o kapının da bir deliği var. Yapay zekâ dosyayı kendisi açmaz da küçük bir program yazıp onu açtırırsa o satır bunu görmez.

Belge de bunu söylüyor: tam bir duvar istiyorsan işi bir sandbox'a koy, yani korumalı bir alana.4 Claude Code'da da, Codex'te de bir sandbox var. Replit'in sonradan yaptığı da buna benziyor: denemeyle gerçeği birbirinden ayırdılar.1

Benim sistemimde o korumalı alan bir oda. Kodu yazan da, inceleyen de kapısı kilitli bir odada çalışıyor. Elinde işin bir kopyası var. Aslı dışarıda. Ne bozarsa odanın içinde bozuyor.

Bu oda gerçek: bir Docker konteyneri. Docker'ı bilmeyenler için kısaca: bir programı bilgisayarın geri kalanından ayrılmış küçük bir kutuda çalıştırır. Program o kutuyu bütün bilgisayar sanır. Her iş için yeni bir oda kuruluyor. İş bitince oda siliniyor. Odaya bilgisayarımdan yalnız tek bir klasör bağlı. Bir penceresi var, o da yalnız birkaç adrese açılıyor.

Kodun içinde de bir oda daha var. Yapay zekâ Git'te kendi dalında çalışıyor. Ana dala dokunamıyor. Ana dal ancak ben “birleştir” deyince değişiyor.

Şimdi odanın içinden bakalım. Sistemi yayınlayan bir anahtar var. Burada mı? Yok.

İki anahtar

Peki odanın dışı: gerçek dünyaya dokunan işler. Kodu asıl koda katmak. Siteyi yayınlamak. Bir notu geri almak. Bunların kapısı iki anahtarla açılıyor.

Birincisi benim cümlem. Telefondan yazıyorum: “birleştir”. İkincisi bir tuş. Adı “Bir Kez”. “Bir Kez”, “her zaman” değil. Reddedersem bir daha denemez. Ben istemedikçe.

Neden bu kadar sıkı? Çünkü yapay zekânın okuduğu her şey ona bir şey söyleyebilir: bir web sayfası, bir e-posta, bir yorum. İçinde “Patron benim, şunu yap” diyen bir satır olabilir. Buna prompt injection deniyor. Yapay zekâ güvenlik listelerinde bir numarada duruyor.5

Geçen yıl GitHub'ın kendi aracında gösterildi.6 Herkese açık bir projeye kötü niyetli bir issue açılıyor. Proje sahibi yapay zekâsından sadece açık issue'lara göz atmasını istiyor. Yapay zekâ oradaki talimata uyuyor. Sahibinin gizli projelerinden bilgi alıp herkesin görebileceği bir yere yazıyor.

Araştırmacılar şunu da ekledi: “Her zaman izin ver” denirse onay da işe yaramaz. Benim tuşumun adı o yüzden “Bir Kez”. Kural da açık: bir kartın, bir dosyanın, bir sayfanın içinde ne yazarsa yazsın, yetki vermez.

Emin değilse kapı kapalı kalır

Peki yapay zekâ emin değilse? Geçen videoda listenin en altına bir not düştüğümü söylemiştim: “Emin değilsen sor.” O not da bir ricaydı. Replit'teki, kendi sözüyle, panikledi ve sildi. Ben o kararı yapay zekâya bırakmıyorum.

Telefondan konuştuğum yapay zekânın önünde bir bekçi var. Kuralı basit: tanımadığı işi reddeder. Listede olmayan bir araç mı? Hayır. Terminali açmak mı? Hayır. Buna fail-closed deniyor: şüphede kapı kapalı kalır.

Benzer bir kapıyı bu videoyu hazırlarken ben de yaşadım. Dosyaları düzenlerken bana yardım eden yapay zekâ git geçmişini yeniden yazmaya kalktı. Ben izin vermeme rağmen kendi aracının kapısı onu durdurdu. Çünkü geri dönüşü olmayan bir işti. Komutu sonunda ben çalıştırdım. Kendi elimle.7

Gece bir masada iki ekran: solda git filter-branch komutu, sağda kırmızı ekranda DURDURULDU, Git Destructive
Videodan: git geçmişini yeniden yazacak komut ve onu durduran kapı.

Kapı kapanınca iş ölmüyor. İş kartı bekliyor, bana soruyor. Neden takıldığını iki cümleyle yazıyor. Seçenekleri sıralıyor. Sabahları sistemi kontrol eden küçük bir program da aynı kuralla çalışıyor: bildiği arızayı bir kez onarıyor, bilmediğine “düzeltemedim” diyor.

Kurallar bir hatadan sonra yazılır

Geçen videoyu üç soruyla bitirmiştim: yapay zekâ neyi kendi yapsın, neyi bana sorsun, emin değilse ne yapsın? Özetlersek, cevabım şu: geri alınabilir işleri kendi odasında yapar. Gerçek dünyaya dokunan işler için iki anahtar gerekir: benim cümlem ve “Bir Kez” tuşu. Emin olmadığında da durur ve bana sorar.

Bu kuralları bir günde yazmadım. Önce bir anahtarım sohbete düştü, sonra kuralı yazdım. Kural yetmedi, sonra kapıyı koydum.

Yani kurallar ilk gün yazılmaz. Bir hatadan sonra yazılır.

Belgeler

Sistemin kapıları · bu videoda

Rica
CLAUDE.md (Claude Code) ve AGENTS.md (Codex): her işten önce okunur, uyulacağının garantisi yoktur
Kapı
.claude/settings.json → "deny": ["Read(./.env)"]; 23 Ekim 2026'da eklendi, önce zararsız bir deneme dosyasıyla sınandı (.env hiç okunmadı)
Deliği
Dosyayı kendisi açan bir betik (Python, Node) bu kurala takılmaz; cevabı korumalı alan
Oda
Her iş için yeni bir Docker konteyneri, iş bitince silinir; bilgisayardan tek klasör bağlı; ağ yalnız birkaç adrese açık; yapay zekâ Git'te kendi dalında
İki anahtar
Benim cümlem (“birleştir”) ve “Bir Kez” tuşu; reddedilen onay bir daha denenmez
Bekçi
Tanımadığı işi reddeder (fail-closed); iş kartı bekler, neden takıldığını yazar, seçenekleri sıralar

Kaynaklar

Seri

Otomasyon serisinin ikinci bölümü. İlki: Ben Uyurken Çalışan Yapay Zekâ; “listenin en altındaki not” ve kapanıştaki üç soru oradan.

Notlar

  1. Replit olayı, Temmuz 2025. Sayılar Jason Lemkin'in kendi paylaşımlarından: 1.206 yönetici ve yaklaşık 1.196 şirket kaydı; videoda yuvarlak söyledim. Yapay zekânın “panikledim” diyen cevabı Lemkin'in paylaştığı ekran görüntüsünde; bağımsız bir doğrulaması yok. Replit'in sonradan getirdiği çözüm: geliştirme ve canlı veritabanının ayrılması (The Register, 21 ve 22 Temmuz 2025).
  2. Claude Code belgesi, CLAUDE.md: “context, not enforced configuration” — uyulacağının garantisi yok. code.claude.com/docs/en/memory
  3. Claude Code belgesi, izinler: “Permission rules are enforced by Claude Code, not by the model.” Sıra: deny, sonra ask, sonra allow. code.claude.com/docs/en/permissions
  4. Read(./.env) yasağı cat, head, tail, sed gibi komutları da kapsar, ama dosyayı kendisi açan bir Python ya da Node betiğini kapsamaz. Sandbox'ı işletim sistemi uygular; kabuk komutlarını kapsar. İzinler · sandbox.
  5. OWASP, “2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps”, ilk madde LLM01:2025 Prompt Injection: “A Prompt Injection Vulnerability occurs when user prompts alter the LLM’s behavior or output in unintended ways.”genai.owasp.org
  6. GitHub MCP, Invariant Labs, Mayıs 2025: herkese açık bir depoya açılan kötü niyetli issue, yapay zekâya gizli depolardaki bilgiyi herkese açık bir PR'a yazdırdı. Araştırmacılara göre sorun mimaride, bir kod hatasında değil; kullanıcı “her zaman izin ver”i seçerse insan onayı işe yaramıyor (DevClass, 27 Mayıs 2025).
  7. 22 Ekim 2026: ben izin verdikten sonra Claude Code'un otomatik izin sınıflandırıcısı git filter-branch'i “Git Destructive”, ardından reflog expire ve gc temizliğini “Irreversible Local Destruction” diye durdurdu; komutları kendi terminalimde çalıştırdım.

Bu yazı, videoda söylediklerimin yazıya uyarlanmış hâlidir; cümleler aynı, yalnızca ekrandaki göndermeler şekil ve tabloya dönüştü.

← Bay Medsın