Agent Hukuku
Ücretsiz kitaplar
Akademi · Seviye 4 — İleri Konular
Ders 4.5

Çok-ajanlı sistemler & standartlar

MB Slaytlı ders · ~7 dk · Mert Can Boyar

Akademiyi, tek ajanı aşıp birden çok ajanın birlikte çalıştığı dünyaya ve uluslararası çerçevelere bakarak kapatıyoruz. Bu derste çok-ajanlı sistemlerin sistemik riskini, panzehirlerini ve yaslanabileceğiniz standartları öğreneceksiniz.

Ders 4.5 · İleri Konular01 / 08

Çok-ajanlı sistemler & standartlar

Her ajan tek tek iyi olabilir; hepsi birlikte kötü olabilir.

Slayt02 / 08

Vaka: iki ajanın sarmalı

İki ajan birbirinin çıktısını girdi olarak kullanıp bir döngüye girdi: biri “kampanya gönder”, diğeri “destek kaydı aç”, ilki “bilgilendirme gönder”... Kimsenin istemediği bir sarmalda yüzlerce gereksiz e-posta üretildi. Her ajan kendi görevine sadıktı.

Slayt03 / 08

Baş şef & aşçı

Etken YZ baş şeftir (sistem, orkestrasyon); YZ Aracıları aşçılardır (bileşen, dar görev). Aşçılar tek başına da iş görür — ama asıl güç ve asıl karmaşa, mutfağın tamamı birlikte çalışınca ortaya çıkar.

Slayt04 / 08

Sistemik risk

Sistem düzeyindeki davranış, hiçbir tek ajanın niyetini yansıtmayabilir. Küçük sapmalar birleşip büyük sonuçlar (zincirleme hatalar) doğurur — ve suçlu yoktur: ne saldırgan, ne bariz bir arıza.

Slayt05 / 08

Panzehir

  • Döngü kesici: aynı zincir N kez dönerse dur, insana haber ver.
  • Orkestrasyon sınırı: ajanlar arası mesajları da denetim kapısından geçir.
  • Ajan sayısı arttıkça izleme ve kayıt kritikleşir.
Slayt06 / 08

Standartlar: tekerleği icat etmeyin

  • NIST AI RMF — risk yönetimi fonksiyonları.
  • ISO/IEC 42001 — YZ yönetim sistemi.
  • RAISE — Envanter → İzle → Korkuluk → Kurtar döngüsü.
Slayt07 / 08

EU AI Act

Yapay zekayı risk seviyesine göre sınıflandırır; şeffaflık yükümlülükleri yürürlükte. Türkiye'de kurulu olmanız kapsam dışı bırakmaz — kapsamı belirleyen, müşterinizin/kullanıcınızın nerede olduğudur.

Slayt08 / 08

Tebrikler — akademiyi tamamladınız

Envanterden çok-ajanlı orkestrasyona: dört seviye, ajan hukuku ve yönetişiminin tamamı.

Şimdi öğrendiklerinizi bir karneye dökme zamanı.

1 / 8

İki “doğru” ajan, yanlış bir sistem

Çoklu-ajan etkileşimi dört tehdit ailesinin en sinsisidir çünkü suçlu yoktur: her ajan kendi görevine sadıkken, etkileşimleri kimsenin tasarlamadığı bir sonuç üretebilir. KVKK'nın rehberi de baş şef/aşçı benzetmesiyle bu inceliği vurgular — asıl güç ve asıl karmaşa, mutfağın tamamı birlikte çalışınca doğar. Panzehir, ajanlar arası mesajlaşmaya bir döngü kesici (tekrar sayacı + insana eskalasyon) koymak ve bu mesajları da denetim kapısından (Ders 4.4) geçirmektir. Ajan sayınız arttıkça bu riskin ağırlığı artar.

Unutmayın
Sistem düzeyindeki davranış, hiçbir tek ajanın niyetini yansıtmayabilir. “Her ajan tek tek iyi” demek, “hepsi birlikte iyi” demek değildir; küçük sapmalar birleşip büyük sonuçlar doğurur.

Standartlar ve mevzuat radarı

Tekerleği yeniden icat etmeyin: bu akademinin beş ilkesi uluslararası çerçevelerle uyumludur. Bir kurumsal müşteri “hangi çerçeveye uyuyorsunuz?” diye sorduğunda (soracaktır), NIST AI RMF, ISO/IEC 42001 veya RAISE döngüsünden birine bağlanabilmek olgunluk işaretidir. Ve EU AI Act: AB'ye hizmet veriyorsanız kapsamı sizi belirler — Türkiye'de kurulu olmanız kapsam dışı bırakmaz, çünkü kapsamı belirleyen müşterinizin nerede olduğudur.

Dikkat
Bugün gönüllü kurduğunuz yönetişim, yarının mevzuatına hazırlığınızdır. TBMM'deki YZ teklifleri, KVKK'nın GDPR'a yakınlaşması ve EU AI Act — üçünü de çeyreklik yönetim gündeminize sabit bir madde olarak koyun.
Bu derste öğrendikleriniz
  • Çoklu-ajan riski sistemiktir; suçlu tek bir ajan değildir.
  • Panzehir: döngü kesici + orkestrasyon denetimi.
  • Standartlar: NIST AI RMF, ISO 42001, RAISE.
  • EU AI Act kapsamını müşterinizin yeri belirler.

Akademiyi tamamladınız 🎓

Dört seviye boyunca ajan hukuku ve yönetişiminin tamamını gördünüz. Şimdi şirketinizin olgunluk karnesini çıkarın.

Olgunluk testini çöz →
← Önceki: Runtime guardrails Akademiye dön →