Temel kavramlar, sade dille

Geniş miktarda metin verisiyle eğitilmiş, doğal dilde yanıt üretebilen yapay zekâ modeli. Kurumsal Yapay Zeka mimarisinin çoğu zaman başlangıç noktasıdır, ancak tek başına kurumsal kapasiteyi temsil etmez.

Yeni metin, görüntü, ses veya kod üretebilen yapay zekâ sistemleri kategorisi; klasik tahmin/sınıflandırma modellerinden farklı olarak olasılıksal ve yaratıcı çıktı üretir.

Geniş, genel amaçlı veriyle eğitilmiş ve farklı görevlere uyarlanabilen büyük ölçekli model; kurumsal uygulamaların çoğu bu modelleri doğrudan kullanmak veya özelleştirmek üzerine kuruludur.

Bir amacı yorumlayıp alt adımlara bölebilen, kurumsal veri kaynaklarını sorgulayabilen, araçları çağırabilen ve belirli koşullarda işlem tamamlayabilen yapay zekâ bileşeni. → Kimler İçin? / EnaGuard Nedir?

Birden fazla ajanın görev ve bilgi paylaşarak birlikte çalıştığı mimari yapı; tek bir ajanın görev yürüttüğü modelden daha karmaşık koordinasyon ve yetkilendirme gereksinimleri doğurur.

Metin, görüntü, ses, video ve sensör verisini aynı süreç içinde işleyebilen yapay zekâ sistemi; her veri türü farklı saklama, mahremiyet ve güvenlik gereksinimi taşır.

Genel amaçlı büyük modellerin aksine, belirli bir görev veya alanda daha hızlı, ekonomik ve tutarlı sonuç üretmek üzere eğitilmiş veya uyarlanmış daha küçük model.

Bir temel modelin belirli bir görev veya kurumsal veri setine göre ek eğitimle uyarlanması süreci.

Bir modelin sayısal hassasiyetini azaltarak daha az kaynakla ve daha düşük gecikmeyle çalışmasını sağlayan optimizasyon tekniği.

Verinin üretildiği noktaya (saha ekipmanı, üretim hattı, araç, mağaza) yakın konumda çalışan yapay zekâ modeli; düşük gecikme ve çevrim dışı çalışma ihtiyacından doğar.

Gerçek veriye benzer istatistiksel özellikler taşıyan, yapay olarak üretilmiş veri; hassas veri kısıtlarının olduğu senaryolarda model eğitimi/testi için kullanılabilir.

Modelin yanıt üretirken kurumsal kaynaklardan ilgili bilgiyi bulup kullanmasını sağlayan mimari yaklaşım. → EnaGuard Nedir?

Metni sayısal vektörlere çeviren ve bu vektörler arasında anlamsal benzerlik araması yapabilen veri tabanı; RAG sistemlerinin temel bileşenidir.

İlk arama sonucundan dönen adayların daha isabetli bir modelle yeniden sıralanması; RAG yanıt kalitesini doğrudan etkiler.

Bir dokümanın daha küçük, anlamlı parçalara bölünerek indekslenmesi süreci; parçalama kalitesi arama isabetini etkiler.

Uygulamalar ile model hizmetleri arasında kurulan; erişim, yönlendirme, politika uygulama, maliyet kontrolü ve kayıt tutmayı merkezileştiren katman. → EnaGuard Nedir?

Bir isteğin; kullanım senaryosu, veri sınıfı, gecikme hedefi veya maliyet sınırına göre en uygun modele yönlendirilmesi.

Modellerin ve ajanların veri kaynaklarına ve araçlara ortak bir yöntemle bağlanmasını sağlayan entegrasyon protokolü.

Model, istem, veri seti ve yapılandırmaların geliştirme, test, yayın ve üretim yaşam döngüsü boyunca izlenebilir biçimde yönetilmesi disiplini.

Bir ajanın veya kullanıcının yalnızca görevi için gereken veri ve işlem yetkisine sahip olması gerektiği ilkesi.

Bir ajan veya sistem bileşeninin kurumsal kaynaklara erişirken kullandığı dijital kimlik; her ajanın ayrı ve izlenebilir bir hizmet hesabına sahip olması önerilir.

Uzun süre geçerli parola veya anahtar yerine, sınırlı süre için geçerli olan ve otomatik yenilenen erişim bilgisi; sızıntı riskini sınırlar.

Belirli risk eşiğini aşan işlemlerin bir insan tarafından onaylanmasını zorunlu kılan tasarım ilkesi.

Beklenmeyen davranış, yetki aşımı veya hatalı karar zinciri fark edildiğinde bir ajanın hızla durdurulmasını ve erişiminin iptal edilmesini sağlayan mekanizma.

Arızalı bir bağımlılığa giden çağrıları geçici olarak keserek hatanın tüm sisteme yayılmasını önleyen dayanıklılık kalıbı.

Birincil model veya sağlayıcı kullanılamaz olduğunda hizmetin bir yedek model, sınırlı işlev veya manuel süreçle devam edebilmesini sağlayan tasarım.

Geçici hatalarda isteğin kontrollü biçimde tekrar denenmesi; kontrolsüz yeniden deneme sorunu büyütebileceğinden merkezi ve sınırlı bir politika gerektirir.

Kullanıcı girdisi veya işlenen içerik (doküman, web sayfası, e-posta, araç çıktısı) içine gizlenmiş talimatlarla modelin davranışının ele geçirilmeye çalışılması.

Modelin girdi ve çıktısını kabul edilebilir davranış sınırlarına göre denetleyen koruma katmanı.

Bağımsız bir ekibin sistemi saldırgan gözüyle test ederek zayıflıkları gerçek bir saldırıdan önce ortaya çıkarması.

Eğitim verisinin, ince ayar verisinin veya RAG kaynaklarının kasıtlı biçimde manipüle edilerek model davranışının bozulması.

Modelin karar mekanizmasını yanıltmak amacıyla özel olarak tasarlanmış girdiler kullanan saldırı ve savunma alanı.

Model çıktıları üzerinden modelin davranışının kopyalanması (extraction) veya eğitim verisi hakkında bilgi çıkarılması (inversion); fikrî mülkiyet ve veri gizliliği riski taşır.

Çalışanların kurumun bilgisi veya onayı dışında üçüncü taraf yapay zeka araçlarını kullanması; kurumsal veri akışlarının görünmez hale gelmesine yol açabilir.

Bir kişiyi doğrudan veya dolaylı olarak tanımlayabilen veri (ad, kimlik numarası, e-posta gibi); KVKK ve GDPR kapsamında özel koruma gerektirir.

Bir yetkinliğin var olduğunun yalnızca ekip tarafından ifade edilmesi; doğrulayıcı kanıt henüz sınırlıdır.

Mimari, politika, prosedür veya standardın tanımlanmış olması; henüz üretimde uygulanmamış olabilir.

İlgili teknoloji veya kontrolün kurulmuş ve yapılandırılmış olması.

Yetkinliğin normal, yük, hata ve saldırı senaryolarında doğrulanmış olması.

Üretim kayıtları, metrikler, test kayıtları ve olay verileriyle desteklenen, düzenli olarak izlenen ve iyileştirilen yetkinlik seviyesi.

Bir yapay zekâ sisteminin yalnızca çalışması değil; güvenli, ölçeklenebilir ve sürdürülebilir biçimde gerçek üretim koşullarında işletilebilir olması.

Kurumun beyan ettiği yapay zekâ mimari yetkinliklerinin, çıkar çatışması taşımayan bağımsız bir taraf tarafından kanıtlarla doğrulanması. → EnaGuard Nedir?

Bir kontrolün var olduğu beyan edilirken, kapsamı, sahipliği, üretim bağlantısı veya test durumu netleşmediği için gerçek durumun görünür olmaması.

Olgunluk, kanıt güveni, kapsam geçerliliği, artık risk, kalite güvencesi sonucu ve iddia sınırını gösteren kanıt temelli görünüm; tek bir puan değildir.

Kanıtı sunan kişi ile inceleyecek kişi aynıysa, bu kanıt sayılmadan önce ayrı bir gözden geçirenin onayı gerekir; bu onay olmadan sonuca duyulan güven azaltılır.

Yapay zekâ yönetim sistemi (AIMS) için geliştirilmiş uluslararası standart; kurumların yapay zeka risklerini sistematik biçimde yönetmesini amaçlar.

Yapay zekâ risk yönetimi üzerine uluslararası standart.

ABD Ulusal Standartlar Enstitüsü'nün geliştirdiği, Govern / Map / Measure / Manage işlevlerine dayanan gönüllü yapay zeka risk yönetimi çerçevesi.

LLM ve ajan tabanlı sistemlerin güvenlik risklerine odaklanan, açık kaynaklı ve küresel katılımlı güvenlik araştırma girişimi.

Yapay zekâ sistemlerine yönelik gerçek saldırı taktik ve tekniklerini derleyen, sürekli güncellenen bir bilgi tabanı.

Cloud Security Alliance tarafından geliştirilen, yapay zeka sistemleri için bulut ve güvenlik kontrol çerçevesi.

Avrupa Birliği'nin risk bazlı yapay zekâ düzenlemesi; yüksek riskli sistemlere daha ağır yükümlülükler getirir.

Türkiye ve Avrupa Birliği'nin kişisel verilerin korunmasına ilişkin temel düzenlemeleri; yapay zekâ sistemlerinin veri işleme biçimini doğrudan etkiler.

Verinin hangi ülke veya bölgede işlendiği ve saklandığı; düzenleme, gecikme ve güvenlik kararlarını doğrudan şekillendiren mimari parametre.

Yapay zekâ iş yüklerinin öncelikli olarak bulut platformlarında çalıştırıldığı, görece esnek düzenleme/veri kısıtı olan çalışma modeli.

Bazı iş yüklerinin bulutta, bazılarının kurum içi altyapıda çalıştığı, kısıtlı bulut kullanımının söz konusu olduğu çalışma modeli.

Dış ağlardan tamamen izole, genellikle yüksek gizlilik veya kritik altyapı gereksinimleri nedeniyle tercih edilen çalışma modeli.

Yapay zekâ altyapısının kurumun kendi veri merkezinde barındırıldığı çalışma modeli.