Bankalarda GenAI’ın asıl sınavı veri, güvenlik ve ölçeklenme

SATIRARASI / HABER

↗

PAYLAŞ

X in f WA ✉

Bankaların yapay zeka anlatısında akıllı asistanlar, chatbotlar ve yeni nesil müşteri deneyimi öne çıkıyor. Ancak kurumların teknoloji ekiplerinin gündeminde çok daha temel bir soru var: Yapay zeka kurumsal veriye nasıl güvenli erişecek, nasıl denetlenecek ve mevcut sistemlerle nasıl çalışacak?

KPMG Türkiye Veri, Analitik & Dijital, İnovasyon ve Teknoloji Hizmetleri Direktörü Sinan Baş’a göre bugün birçok banka için asıl zorluk bir büyük dil modelini çalıştırmak değil; kurumsal bilgiye güvenli erişebilen, hataları yönetilebilen ve denetlenebilir bir yapay zeka platformu kurmak. Veri kalitesi, yetkilendirme, regülasyon, entegrasyon ve maliyet yönetimi model seçiminden daha kritik hale gelirken, bankacılıkta tam otonom AI ajanlarından çok insanı destekleyen “copilot” modellerinin öne çıkması bekleniyor.

Veritabanları, veri entegrasyonu ve iş zekâsı alanlarında 14 yılın üzerinde deneyime sahip Baş, KPMG’ye katılmadan önce Türkiye’nin önde gelen bankalarında ve çeşitli danışmanlık firmalarında kıdemli danışman ve yönetici olarak görev yaptı.

Baş ile bankalarda GenAI projelerinin pilot aşamadan üretime geçişini, gerçek kullanım alanlarını, regülasyonun mimariye etkisini ve önümüzdeki dönemde teknoloji bütçelerinin hangi alanlara kayacağını konuştuk.

Bankaların dışarıya anlattıkları ile içeride çözmeye çalıştıkları problemler arasındaki en belirgin fark nedir?

Dışarıdan bakıldığında GenAI konusu genellikle müşteri deneyimi, akıllı asistanlar veya yeni nesil dijital bankacılık hizmetleri üzerinden anlatılıyor. Bunlar elbette önemli başlıklar; ancak benim gözlemim içeride teknoloji ekiplerinin gündemi çoğu zaman çok daha temel konular oluyor.

Kurumların dışarıda “hangi modeli kullanıyoruz?” sorusuna odaklanırken içeride “bu modeli güvenli ve sürdürülebilir şekilde nasıl çalıştıracağız?” sorusuyla uğraştıkları yönünde. Özellikle veri erişimi, güvenlik, yetkilendirme, regülasyon uyumu, mevcut sistemlerle entegrasyon ve operasyonel yönetim gibi konular çoğu zaman model seçiminden daha kritik hale geliyor.

Aslında bugün birçok banka için asıl zorluk bir LLM’i çalıştırmak değil; kurumsal bilgiye güvenli erişebilen, hatalarını yönetebilen ve denetlenebilir bir AI platformu kurmak. Dolayısıyla vitrine çıkan hikâye çoğu zaman chatbot veya üretken yapay zeka tarafı oluyor, ancak perde arkasındaki asıl çalışma veri ve mimari tarafında gerçekleşiyor.

Teknoloji ekiplerinin gündeminde esas olarak şu sorular bulunuyor: Kurumsal veriyi LLM’lere güvenli şekilde nasıl açacağız? Hassas verilerin dışarı çıkmasını nasıl engelleyeceğiz? Üretilen cevabın doğruluğunu nasıl ölçeceğiz? Regülasyonlara nasıl uyum sağlayacağız? Yüz binlerce kullanıcıya hizmet verirken maliyeti nasıl yöneteceğiz?

Benim gözlemim, önümüzdeki dönemde rekabet avantajını model değil veri ve yönetişim kalitesi belirleyecek. Ontolojiler oluşturarak semantik katmanları tanımlamak, bunu on-prem bir teknoloji ile yapmak ve governance yapısı oluşturmak bugünün en zorlayıcı problemleri olarak gözükmektedir.

Bir GenAI uygulamasını pilot aşamadan üretim ortamına taşırken mimaride neler değişiyor?

Pilot aşamada amaç değer yaratma potansiyelini göstermek olduğu için mimari genellikle sade oluyor. Ancak üretime geçerken manzara önemli ölçüde değişiyor.

Pilotta sadece model ve kullanıcı arayüzü yeterli olabilir. Üretimde ise güvenlik katmanları, gözlemlenebilirlik mekanizmaları, log yönetimi, maliyet takibi, erişim kontrolleri, model yönetişimi, prompt yönetimi, RAG mimarileri, insan onayı süreçleri ve performans izleme gibi birçok bileşen ekleniyor.

Benim gördüğüm en büyük zorluk entegrasyon tarafında ortaya çıkıyor. Kurumlar genellikle modeli çalıştırabiliyor, ancak modeli onlarca farklı sistemle entegre etmek ve güvenilir veri akışını sağlamak beklenenden çok daha karmaşık oluyor.

İkinci önemli zorluk ise yönetişim. Üretim ortamında “Hangi verilere erişebilir?”, “Hangi cevaplar kayıt altına alınacak?”, “Hangi kararlar otomatik alınabilir?” ve “Hangi durumlarda insan onayı gerekiyor?” sorularının cevaplanması gerekiyor.

Genellikle projeler teknik zorluktan çok bu kararların alınmasında zaman kaybediyor.

Bugün bankalarda gerçekten üretime geçmiş GenAI uygulamalarını hangi alanlarda görüyorsunuz?

Üretime geçmiş uygulamaların önemli kısmı çalışan verimliliği odaklı.

Müşteri temsilcisi ve çağrı merkezi destek asistanlarında, müşteri temsilcisi görüşme sırasında ilgili prosedürleri, ürün bilgilerini ve geçmiş işlemleri doğal dil ile sorgulayabiliyor. Bu hem çağrı sürelerini düşürüyor hem de hizmet kalitesini artırıyor.

Kurumsal bilgi asistanları tarafında iç prosedürler, regülasyon dokümanları, ürün dokümanları ve operasyonel talimatlar üzerinde çalışan RAG tabanlı asistanlar yaygınlaşıyor.

Yazılım geliştirme ve test süreçlerinde ise kod üretimi, test senaryosu oluşturma, dokümantasyon üretimi ve kod analizi tarafında ciddi kullanım görüyoruz.

Benim için bir uygulamanın “production” sayılabilmesi için üç kriter önemli: Gerçek kullanıcılar tarafından günlük kullanılması, kurumsal destek ve operasyon ekipleri tarafından yönetilmesi ve kuruma ölçülebilir iş değeri üretmesi.

Sadece pilot kullanıcıların denediği bir çözümü üretim olarak değerlendirmiyorum.

Gerçek projelerde en sık karşılaşılan darboğazlar neler?

Birinci darboğaz veri kalitesi ve veri erişimi.

Kurumlar yıllardır veri ambarı ve raporlama için veri hazırlıyorlar. Ancak üretken yapay zeka için ihtiyaç duyulan bilgi yapısı farklı. Dokümanlar, prosedürler, operasyonel kayıtlar ve kurumsal bilgi kaynakları çoğu zaman dağınık durumda bulunuyor.

İkinci darboğaz entegrasyon. Bankalarda yüzlerce uygulama ve servis bulunuyor. GenAI’ın gerçek değer yaratabilmesi için sadece cevap üretmesi değil, aynı zamanda işlem başlatabilmesi gerekiyor. Bu da çok sayıda sistem entegrasyonu gerektiriyor.

Üçüncü darboğaz ise yönetişim. Özellikle “Hangi veri modele gönderilebilir?”, “Prompt kayıtları nasıl tutulacak?” ve “Yanlış cevapların sorumluluğu kimde olacak?” soruları kritik.

Bu başlıklar netleşmeden birçok proje ölçeklenemiyor.

Cloud ve regülasyon gereksinimleri mimariyi nasıl etkiliyor?

Türkiye’de bankacılık sektörü doğal olarak daha kontrollü ilerliyor.

Özellikle müşteri verilerinin korunması, veri yerleşikliği gereklilikleri ve düzenleyici beklentiler nedeniyle tamamen açık internet üzerinden çalışan mimarilere yaklaşım daha temkinli.

Bu nedenle son dönemde üç yaklaşım görüyoruz: hibrit mimari, private cloud ve on-premise AI.

Hibrit mimaride hassas veriler kurum içinde tutulurken bazı AI servisleri güvenli bulut servislerinden alınabiliyor. Private cloud özellikle büyük kurumlarda ilgi görüyor; kurum kendi kontrol alanında AI platformları çalıştırmak istiyor.

On-premise AI ise özellikle kritik veri barındıran kurumlarda tercih ediliyor. Burada GPU kümeleri, model sunum platformları ve kurumsal RAG mimarileri kurum veri merkezlerinde çalışıyor.

Sahada en sık gördüğüm yaklaşım hibrit yapı. Çünkü hem regülasyon ihtiyaçlarını hem de çevikliği dengeleyebiliyor.

Benim gözlemim, Türkiye’de orta vadede baskın model hibrit AI mimarisi olacak: hassas veri içeride, ölçek avantajı sağlayan bazı servisler dışarıda.

Global örneklerde de bankaların kendi GPU altyapıları üzerinde model çalıştırdığı ve veri egemenliği yaklaşımını koruduğu görülüyor.

GenAI eski sistemlerin modernizasyonunda gerçekten kullanılıyor mu?

Evet, ancak kamuoyuna yansıyan kadar yaygın olduğunu düşünmüyorum.

En olgun kullanım alanları kod analizi, dokümantasyon üretimi, test senaryosu oluşturulması, uygulama bağımlılıklarının çıkarılması, kod açıklaması ve etkisel analiz.

Özellikle COBOL, PL/SQL veya eski Java uygulamaları gibi uzun yıllar boyunca gelişmiş sistemlerde ciddi fayda görüyoruz.

Ancak tamamen otomatik dönüşüm henüz beklenen seviyede değil.

Bunun sebebi de teknik değil, kurumsal risk. Bankalar milyonlarca müşteriyi etkileyen sistemler üzerinde çalışan kodları tamamen otomatik dönüştürmek konusunda doğal olarak temkinli davranıyorlar.

Bu nedenle bugün AI çoğunlukla geliştiriciyi destekleyen bir yardımcı rolünde.

AI kurumların teknoloji yatırımlarını değiştirmeye başladı mı?

Kesinlikle başladı.

Geçmişte veri platformu yatırımları çoğunlukla raporlama ve analitik ihtiyacından besleniyordu. Şimdi AI kullanım senaryoları yeni yatırım alanları oluşturuyor.

Veri kalitesi, metadata yönetimi ve semantik katman yatırımları hızlanıyor. GPU kaynakları, model serving platformları ve vektör veri tabanları gündeme geliyor.

AI güvenliği, model risk yönetimi ve erişim kontrolü de yeni yatırım kalemleri olarak ortaya çıkıyor. Bunun yanında model performansının, maliyetinin ve kullanımının sürekli izlenmesi gerektiği için gözlemlenebilirlik tarafında da yatırımlar artıyor.

Önümüzdeki dönemde AI bütçelerinin önemli kısmının modellerden ziyade veri ve platform katmanına ayrılacağını düşünüyorum.

Bir CIO veya CTO’ya önümüzdeki 12-24 ay için ilk üç önceliğiniz ne olurdu?

Birinci öncelik veri temelini güçlendirmek olurdu.

Kaliteli veri olmadan ölçeklenebilir AI mümkün değil. Veri kalitesi, metadata yönetimi, veri katalogları ve semantik katman önceliklendirilmeli. AI’ın başarısı veri kalitesi ve veri anlamlandırmasıyla doğrudan ilişkili.

İkinci öncelik AI yönetişimi olurdu. Model kullanımı, denetim, güvenlik, etik ilkeler, risk yönetimi ve sorumluluk çerçevesi en baştan tanımlanmalı.

Üçüncü öncelik ise entegrasyon ve platform stratejisi olurdu. Her kullanım senaryosu için yeni bir araç almak yerine ortak ve ölçeklenebilir bir AI platformu oluşturmak gerekiyor.

Henüz sahada beklenen karşılığını görmediğim alan ise tamamen otonom AI çalışanlar konusu.

Bugün “kurum içindeki süreçleri baştan sona yöneten bağımsız ajanlar” çok konuşuluyor. Ancak bankacılık gibi yüksek regülasyonlu sektörlerde önümüzdeki birkaç yıl içerisinde insan denetimi olmadan çalışan tam otonom yapılardan ziyade, insanı destekleyen ve karar süreçlerini hızlandıran “copilot” modellerinin daha yaygınlaşacağını düşünüyorum.

GenAI’ın geleceğini belirleyecek olan unsur modellerin ne kadar güçlü olduğu değil; kurumların veri, yönetişim ve teknoloji mimarilerini bu yeni çalışma şekline ne kadar hazırlayabildiği olacak. Önümüzdeki dönemde en başarılı kurumlar en büyük modeli kullananlar değil, yapay zekayı güvenli, ölçeklenebilir ve ölçülebilir şekilde operasyonlarına entegre edenler olacak.

Satırarası · Türkiye finans sektörünün teknoloji yayını

Haftalık bülten

Finans teknolojisindeki önemli gelişmeleri haftada bir kez derli toplu alın.

Görüş / düzeltme

Haberde hata, eksik bilgi veya eklenmesi gereken bir ayrıntı mı gördünüz? Bize iletin.

← ÖNCEKİ

SONRAKİ →