Kongre, Kritik Altyapıda Çin Yapımı Yapay Zekaya Bakışını Genişletiyor

Temsilciler Meclisi üyeleri, Çin yapımı AI modellerinin kritik altyapı için ulusal güvenlik riski oluşturup oluşturmadığını daha derinlemesine araştırıyor. Endişenin sade hali şu: yabancı bir düşman devletle bağlantılı olarak eğitilmiş veya barındırılmış bir model, sonunda şebekeye, su arıtma tesislerine veya ulaşım ağlarına dokunan bir yazılımın içine gömülürse, tehdit modelinde kimsenin hesaba katmadığı bir kanal açmış olursunuz. Bu bir hacker’ın güvenlik duvarını aşması değil. Bir ürün güncellemesinin içine gömülü bir bağımlılık.

Bu haberin çoğu kaynakta veri gizliliği sorunu olarak ele alındığını görüyoruz ve bu kısmen doğru. Ama benim gördüğüm kadarıyla asıl ilginç risk, Çin yapımı bir modelin ne “eve göndereceği” değil. Asıl mesele, bir kontrol döngüsü veya karar destek aracının içinde neyi yanlış yapabileceği ya da yanlış yapması için ne şekilde yönlendirilebileceği. Öngörücü bakım, anomali tespiti veya operatör destek amaçlı kullanılan bir AI modelinin zarar vermek için herhangi bir veri sızdırmasına gerek yok. Sadece belli belirsiz güvenilmez olması, ya da karşı taraf düğmeye basana kadar tam güvenilir görünmesi yeterli.

Risk aslında nerede yaşıyor

Siyaset yapıcıların genelde göz ardı ettiği kısım şu: bugün neredeyse hiçbir varlık sahibi (asset owner), tedarikçi yazılım yığınının içinde hangi AI bileşenlerinin bulunduğunu söyleyemez. Bir öngörücü bakım modülü, bir trafo merkezi kamerası için görüntü analitik paketi, operatör kolaylığı için HMI’ye eklenmiş bir chatbot — bunlar birer AI sistemi olarak değil, birer özellik olarak satın alınıyor ve altta kimin modelinin çalıştığını kimse sormuyor. Kongre’nin tüketici AI uygulamalarına yönelttiği köken (provenance) sorusu, sessizce üçüncü taraf bir ML kütüphanesi taşıyan 2 milyon dolarlık bir SCADA yükseltmesi için de geçerli.

Capitol Hill ile tesis sahasındaki bu makas, aslında asıl hikaye burada. Kongre soruşturmaları duruşmalar ve mektuplarla ölçülen bir zaman çizelgesinde ilerliyor. OT yazılımı için tedarik kararları ise tamamen farklı bir saatte işliyor; bütçe döngüleri ve tedarikçi yol haritalarıyla şekilleniyor, güvenlik incelemesi ise genelde sonradan akla gelen, hatta bazen hiç yapılmayan bir adım. Herhangi bir politika sonucu ortaya çıktığında, AI destekli özellikler zaten bir yerlerde üretimde çalışıyor olacak.

Çözümün, menşe ülkeye göre model yasaklamak olduğunu düşünmüyorum — bu siyaseten tatmin edici ama operasyonel olarak özensiz bir yaklaşım. Asıl işe yarayan şey, varlık sahiplerinin AI bileşenlerini zaten her üçüncü taraf koduna davranması gerektiği gibi ele alması: orada olduğunu bilmek, neye dokunduğunu bilmek, nasıl güncellendiğini bilmek ve başarısız olursa ya da kötü niyetli veri beslenirse ne olacağını bilmek. Tedarikçilere doğrudan sorun: ürünlerinde hangi modeller gömülü, nerede barındırılıyor, çalışmaları için tesisten hangi veri dışarı çıkıyor. Çoğu tedarikçiye bu sorular şimdiye kadar hiç sorulmamış. Bu tek başına bile bir şey anlatıyor.

Kongre soruşturması, bağlayıcı bir kural doğurmasa bile faydalı bir zorlayıcı unsur (forcing function). Çoğu OT güvenlik programında görünmez kalmış bir risk kategorisine — endüstriyel yazılımda AI kökeni sorununa — ışık tutuyor. Duruşmalardan ne çıkarsa çıksın, varlık sahiplerine düşen ödev aynı: operasyonel ortamınızda AI’nın nerelere dokunduğunun envanterini çıkarın ve bir özelliğin sadece güvenilir bir tedarikçinin kutusundan çıktığı için güvenli olduğunu varsaymaktan vazgeçin.

Kaynak: https://industrialcyber.co/critical-infrastructure/us-congress-deepens-investigation-into-chinese-ai-models-over-critical-infrastructure-and-data-security-risks/