Verileri ve diğer kurumsal varlıkları korumak giderek zorlaşan bir görevdir ve bir kuruluşun neredeyse her köşesini ilgilendiren bir görevdir. Dijital sistemlerin karmaşıklığı arttıkça zorluklar da artıyor.
Kaosu kontrol altına almaya yardımcı olan yöntemlerden biri, güvenliği BT yaşam döngüsü boyunca entegre eden bir DevSecOps metodolojisi aracılığıyla geliştirme, güvenlik ve operasyonları bir araya getirmektir.
Ancak yapay zeka (AI) ilerledikçe ve makine öğrenme (ML) bir kuruluşun merkezine taşındığında, ortaya çıkan bir zorluk ortaya çıkar: ML güvenliğinin geniş geliştirme döngüsüne nasıl dahil edileceği… Yapay zeka modelleri diğer yazılımlara benzemez. Genellikle doğrudan bir arayüz veya belirli bir kod olmadan tahminlerde bulunur, önerilerde bulunur ve otomasyonu yönetirler.
Bu nedenle, AI ve ML modellerini güvende tutan korumalar ve korkuluklar geliştirmek kritik öneme sahiptir. Makine öğrenimi güvenlik işlemlerinin (MLSecOps) devreye girdiği yer burasıdır.
DevSecOps ilkelerini yapay zekaya ve makine öğrenimi yaşam döngüsüne genişletir. MLSecOps çerçevesi, fikri mülkiyet (IP) ve diğer hassas verilere dokunan kodu, algoritmaları ve veri kümelerini korumaya odaklanır.
Geliştirme döngüsüne ilişkin daha eksiksiz bir görünüm elde etme
Başlamak için DevSecOps ve MLSecOps’un nasıl benzer olduğunu ve nasıl farklı olduklarını anlamak önemlidir. Her ikisi de ortak bir yolu paylaşıyor: geliştirme süreci boyunca fikir üretme veya yaratma ile başlıyorlar.
Her ikisi de geliştiricileri veya veri bilimcilerini güvenlik konusunda eğitiyor ve tehdit modellemeyi anlamalarına yardımcı oluyor. Sonuç olarak, içinde çalışan aynı tekniklerin çoğu DevSecOps MLSecOps dünyasında etkilidir.
Bu, daha sonra güvenlik risklerini azaltmak amacıyla temel kontrolleri, dengeleri ve korumaları geliştirme sürecinin erken aşamalarına dahil etmeyi amaçlayan sola kaydırma kavramını da içerir.
Bu yaklaşım paradan tasarruf edebilir, teknik borcu azaltabilir ve en önemlisi gerçek dünyadaki ihlalleri ve arızaları önleyebilir. Ancak benzerliklerin çoğunun bittiği yer burasıdır. Geleneksel bir yazılım uygulaması, makine öğrenimi, model odaklı bir uygulamadan çok farklıdır.
Geleneksel bir yazılım geliştirme görevi, müşteriyi satın alma gibi doğrusal bir süreçte yönlendiren düğmeler, açılır kutular ve diğer işlevlerden oluşan bir arayüz geliştirmek olabilir. Sonuç olarak görünüm ve işlevsellik üstün gelir.
ML odaklı bir uygulamada modele, modelin eğitim aldığı verilere ve modelin sağladığı içgörülere odaklanılır. Tipik kullanım durumları, bir kişinin bir ürünü satın alma olasılığı, belirli bir kredi kartı işleminin dolandırıcılıkla bağlantılı olması veya bir tedavinin bir hastalıkla mücadelede etkili olma olasılığı gibi olasılıklara ve model tanımlamaya odaklanır.
Entegre bir geliştirme ortamına sahip geleneksel bir yazılım geliştirme ortamından farklı olarak (IDE), veri bilimcileri genellikle Jupyter Not Defterlerini kullanarak kod yazarlar. Bu, bir IDE’nin dışında ve genellikle geleneksel DevSecOps yaşam döngüsünün dışında gerçekleşir.
Sonuç olarak, güvenli geliştirme teknikleri konusunda eğitim almamış bir veri bilimcinin, korunmasız sırları veya diğer hassas bilgileri bir not defterinde saklayarak hassas verileri riske atması mümkündür. Basitçe söylemek gerekirse DevSecOps dünyasında kullanılan araçlar ve korumalar makine öğrenimi iş yükleri için etkili değildir.
Çevrenin karmaşıklığı da önemlidir. Geleneksel geliştirme döngüleri genellikle doğrudan bir yazılım uygulaması arayüzüne veya API’ye yol açar. Makine öğrenimi alanında odak noktası yinelemeli olup, daha iyi sonuçlara yol açan eğitilebilir bir model oluşturmaktır. ML ortamları, dinamik bir ortam için gerekli olan büyük miktarlarda serileştirilmiş dosyalar üretir. Sonuç? Kuruluşlar, sürüm oluşturma ve entegrasyonun doğasında olan karmaşıklıklar karşısında bunalıma girebilir.
Bütün bunlar pratik açıdan ne anlama geliyor? DevSecOps karmaşıktır ve MLSecOps daha da karmaşıktır. MLSecOps, çok sayıda ölçümü ve sürekli değişen koşulları ve gereksinimleri birleştiren, hızla gelişen ve son derece dinamik ortamları içerir. MLSecOps’tan tam değer elde etmek için iş dünyası ve BT liderlerinin sola kaymak amacıyla süreçleri yeniden düşünmesi ve yeniden yapılandırması gerekiyor.
MLSecOps daha güvenli bir kuruluşa giden yoldur
MLOps alanında gezinmek kolay olmasa da kritik öneme sahiptir. Siber güvenlik riskini azaltmak için mühendisler, veri bilimcileri ve güvenlik uzmanları arasında yüksek düzeyde işbirliğinin olması hayati önem taşıyor. Veri bilimcilerini en iyi uygulamalar konusunda eğitmek, daha güçlü ve daha dinamik bir güvenlik modeli oluşturmanın merkezinde yer alır.
Ancak MLSecOps’u başarıya ulaştırabilecek veya bozabilecek başka adımlar da var. Bunlar şunları içerir: sola kaydırma yaklaşımı sağlam bir en iyi uygulama temeli oluşturmak; veri kümeleri, modeller ve platformlar da dahil olmak üzere makine öğrenimi hattında tam görünürlük elde etmek; ortamı düzenli olarak denetlemek ve içerdiği tüm araç ve platformlar için güvenlik açığı değerlendirmeleri yapmak; ve üçüncü taraf modellerinin bir yapay zeka ortamına entegre edilmeden önce güvenlik riskleri açısından değerlendirilmesi.
Nihai hedef, makine öğrenimi tedarik zinciri boyunca şeffaflık ve izlenebilirliktir. Buna, çevreye ve onun tüm bileşenlerine kapsamlı bir bakış sunan bir makine öğrenimi malzeme listesi (MLBOM) dahildir.
MLSecOps ve MLBOM mevcut olduğunda bir kuruluş, bir modelin güvenlik açıkları içerip içermediğini veya başka türde güvenlik veya uyumluluk riskleri oluşturup oluşturmadığını belirleyebilir.
Bir MLSecOps çerçevesi mevcut olduğunda güvenliği artırmak ve yapay zeka ile makine öğreniminin tam değerini gerçekleştirmek mümkündür.
