Yapay Zeka Kullanan Şirketlere Kritik Uyarı: Veri Gizliliği Riskleri
Microsoft CEO'su Satya Nadella, kapalı kaynak yapay zeka modellerini kullanan şirketlerin farkında olmadan kurumsal sırlarını AI laboratuvarlarına aktardığını uyarıyor. Nadella, şirketlerin kendi veri mülkiyetini koruması ve açık kaynak modellerle şirket içi altyapı kurmalarını tavsiye ediyor. Bu uyarı, birçok büyük şirketin kapalı modellerden açık kaynak çözümlere geçiş trendini hızlandırıyor.
Yapay zeka teknolojilerinin hızlı yükselişi, güvenlik ve veri gizliliği konusunda ciddi riskler ortaya çıkarmıştır. Kapalı kaynak büyük dil modellerini kullanan şirketler, model performansını iyileştirmek amacıyla kurumsal bilgilerini aktarırken, bu veriler rakip konumundaki AI laboratuvarlarına ulaşmaktadır.
Microsoft CEO'su Satya Nadella bu konuya ilişkin yayınladığı blog yazısında önemli uyarılarda bulunmuştur. Nadella'ya göre şirketler yapay zeka hizmetleri için ödedikleri para kadar önemli bir bedel daha ödemektedir: Kendi proprietary bilgilerini. Model performansını artırmak için kurumsal bilgilerin beslenması zorunlu hale gelmekte, modeller kullanıcıların prompt'larından, hata düzeltmelerinden ve etkileşim verilerinden öğrenmektedir. Her düzeltme, şirketin kurumsal know-how'ına dönüşerek modele işlenmektedir.
Nadella, AI şirketlerinin internetteki herkese açık verileri eğitme hakkını kullanırken, kendi modellerinin benzer şekilde öğrenilmesini yasaklamasını ikiyüzlülük olarak eleştirmiştir. Model sağlayıcılarının müşteri kullanım ve etkileşim verilerinden öğrenme hakkını saklamalarını, en büyük sorunlardan biri olarak tanımlanmıştır.
Nadella'nın önerisi açık ve net: Şirketler prompt'larını, feedback'lerini ve tüm etkileşim verilerini kendi mülkiyetlerinde tutmalıdır. Bunun için bulut üzerinde proprietary öğrenme ortamları ve orchestration katmanları kurmaları gerekmektedir. Bu yolla tek bir modele kilitlenme riski ortadan kaldırılabilir.
Sektörde bu uyarıya paralel olarak önemli bir trend gözlemlenmektedir. T-Mobile, ADP ve SAP gibi büyük şirketler kapalı modellerden açık kaynak çözümlere ve şirket içi kurulumlara geçiş yapmaktadırlar. Vercel'in verilerine göre açık kaynak modeller, gateway trafiğinin %29'unu oluşturmaktadır. Bu tercih, düşük maliyet ve tam kontrol sağlamaktadır.
Microsoft'un OpenAI ve Anthropic'e yatırım yapmış bir şirket olduğu göz önüne alındığında, Nadella'nın bu açıklaması sektörde özel bir önem taşımaktadır. Nadella yazısını şu ifadeyle sonlandırmıştır: "Zeka tüketirken aslında yeni bir zekâ yaratıyorsunuz. Ve yarattığınız şey size ait olmalı."
