Üretim sis­tem­le­rinde yapay zeka — demo değil, mühen­dis­lik

İlk izlenim ile güvenilir işletim arasındaki mesafenin yapay zekadaki kadar büyük olduğu pek az alan vardır. Bir demo saatler içinde ortaya çıkar ve anında etkiler; aynı yeteneği üretimde güvenilir biçimde, karşılanabilir maliyetle ve sessiz hatalar olmadan sunan bir sistem ise daha zorlu mühendislik görevlerinden biridir. Pazar demoları gösterir; sonrasında gelenler hakkında nadiren dürüstçe konuşulur.

Bu doküman sonrasında gelenleri ele alıyor. Yapay zekayı ne bir sihir ne de bir tehdit olarak görüyor; onu özel türde bir bileşen olarak ele alıyor — kesin değil, olası yanıtlar veren bir bileşen — ve onun etrafında sorumluluğunu üstlenebileceğiniz bir sistemin nasıl inşa edileceğini soruyor. Bilinçli olarak modelden, sağlayıcıdan ve hype'tan bağımsız tutuldu; hiçbir ürünün adını vermiyor, çünkü ilkeler hiçbirine bağlı değil.

1. Demo ile üretim arasındaki uçurum

Bir demonun tek bir görevi vardır: Bir şeyin en iyi durumda çalıştığını göstermek. Seçilmiş örnekler üzerinde, dostane koşullarda, yük olmadan, uç durumlar olmadan, yanıt yanlış olduğunda ne olacağı sorusu sorulmadan sergilenir. Bir üretim sisteminin görevi ise tam tersidir: Güvenilir olmak — özellikle kötü durumda, gerçek yük altında, girdilerini kimsenin öngöremediği gerçek kullanıcılarla.

Şema: Demo, su çizgisinin üzerindeki uçtur. Bir yapay zeka sistemini güvenilir kılan her şey altında yatar — ilk izlenimde görünmez.

İkisi arasındaki uçurum yapay zekada özellikle derindir, çünkü demo o kadar kolay başarılır ve üretim sistemi hakkında o kadar az şey söyler ki. Sergilenen on durumda ikna eden bir model, on birincisinde sessizce yanlış bir şey iddia edebilir — ve üretimde önemli olan o on birinci durumdur. Demonun başarısını üretime hazır olmanın kanıtı sayan, en iyi durumu olağan durumla karıştırır. Asıl iş tam da demonun bittiği yerde başlar.

Ödünleşim. Demoyu olduğu şey olarak — bir başlangıç, bir kanıt değil — ciddiye almak, yarattığı heyecanı yatıştırır ve arkasındaki uzun yolu adlandırmayı gerektirir.

Maliyet. Demo ile üretim arasındaki mesafe, ilk izlenimde görünmeyen ve bu yüzden bütçede kolayca unutulan bir iştir.

Ne zaman farklı karar veririz. Bir yapay zeka yeteneğinin gerçekten yalnızca sergilenmesi gerektiğinde — bir deney, bir öğrenme denemesi — demo yeterlidir ve üretime hazır hâle getirme eforu yersiz olurdu.

2. Yapay zeka sistemleri neden farklıdır

Geleneksel yazılım deterministiktir: Aynı girdi aynı çıktıya yol açar; açmıyorsa bu, bulup düzelttiğiniz bir hatadır. Bir yapay zeka modeli ise olasılıksaldır: Kesin olanı değil, en makul yanıtı verir ve aynı soru farklı yanıtlar doğurabilir. Bu bir hata değil, işin doğasıdır — ve bileşenle nasıl çalışılacağı konusunda bildiğiniz her şeyi değiştirir.

Geri kalan her şey bu tek özellikten çıkar. Olasılıksal bir sistemi deterministik bir sistem gibi test edemezsiniz, çünkü kontrol edebileceğiniz sabit bir doğru çıktı yoktur. Aynı şeyi iki kez yapacağına güvenemezsiniz. İkna edici biçimde yanılacağını hesaba katmanız gerekir — bir hata mesajıyla değil, akıcı, makul, yanlış bir yanıtla. Bir yapay zeka sistemini sıradan yazılım gibi ele alan, kesinlik için tasarlanmış araçları olasılık üreten bir şeye uygular — ve işe yaramadıklarına şaşırır.

Ödünleşim. Olasılığı kabul etmek, deterministik olanın rahatlığından vazgeçmek demektir — kesinliği yetenekle takas edersiniz ve kesinliği başka bir yerde sağlamak zorunda kalırsınız.

Maliyet. Olasılıksal bir sistemle çalışmak, birçok ekibin önce öğrenmesi gereken yöntemler gerektirir — değerlendirme, güvence altına alma, beklenmeyenin gözlemlenmesi.

Ne zaman farklı karar veririz. Bir görev kesin ve kural tabanlı olarak çözülebiliyorsa olasılıksal bir sistem kullanılmaz — orada deterministik yazılım daha basit, daha ucuz ve daha güvenilirdir (yapay zekanın ne zaman yanlış çözüm olduğu sorusuna da bakın).

3. İzlenim değil, değerlendirme

Bir yapay zeka sisteminin sabit bir doğru çıktısı olmadığı için kalitesini tekil durum üzerinden — hele ki sergilenen durum üzerinden — değerlendiremezsiniz. Değerlendirmeye (evaluation) ihtiyacınız vardır: Sistemi sistematik olarak ölçtüğünüz, bilinen ve istenen sonuçlara sahip bir dizi durum ve sistemin ne sıklıkla ve ne ölçüde saptığına dair bir ölçü. Bu ölçüm olmadan bir yapay zeka sisteminin kalitesi hakkındaki her ifade bir histir, bilgi değil.

Değerlendirme, yapay zeka için sıradan yazılımdaki testin karşılığıdır — yalnızca daha zordur, çünkü doğru yanıt nadiren tektir. Bu yüzden tek seferlik bir kabul değil, kalıcı bir düzenektir: Sistemdeki her değişiklikten önce daha iyi mi yoksa daha kötü mü olduğunu ölçersiniz, çünkü olasılıksal bir sistemde iyi niyetli bir ayarlama bir yerde, başka bir yerdeki bir şeyi fark edilmeden kötüleştirebilir. Bir yapay zeka sistemini değerlendirme olmadan kurcalayan kör çalışır — değiştirip bilmek yerine değiştirir ve umar.

Ödünleşim. Değerlendirme kurmak, sistem henüz hiç değer üretmeden önce zaman ve özen gerektirir — bir dolambaç gibi hissettirir, ama her güvenilir ifadenin temelidir.

Maliyet. Bir değerlendirme kümesinin bakımı yapılmalı, durumlarla birlikte büyümeli ve sistemin başarısız olduğu uç durumları kapsamalıdır — bu tek seferlik bir efor değil, kalıcı bir iştir.

Ne zaman farklı karar veririz. Hataları sonuçsuz olan tek kullanımlık bir deneme için tam değerlendirmeden tasarruf edilebilir; ancak sistem önemli kararları etkilemeye başladığı anda vazgeçilmez hâle gelir.

4. Yapay zeka sistemlerinin hata modları

Bir yapay zeka sistemi sıradan yazılımdan farklı biçimde başarısız olur ve hata modları tam da hata gibi görünmedikleri için tehlikelidir. En bilineni ikna edici yanlış ifadedir: Model doğru olmayan makul bir şeyi akıcı, kendinden emin bir biçimde iddia eder — tahmin yürüttüğüne dair hiçbir uyarı olmadan. Böyle bir hata hiçbir şeyi kesintiye uğratmaz; yanıtın içine akar ve doğru bir yanıttan ayırt edilemediği için inanılır.

Buna daha sessiz biçimler de eklenir. Girdiler veya model kaydıkça davranış zamanla sapabilir (drift); böylece dün iyi olan bir sistem, kimse bir şey değiştirmeden bugün daha kötü olur. Hiçbir demoda yer almamış seyrek ama önemli girdilerde başarısız olabilir. Ve ustaca biçimlendirilmiş girdilerle öngörülen rolünün dışına çıkarılabilir. Bu hata modlarının ortak bir yanı vardır: Kendilerini bildirmezler. Onları ancak aktif olarak ararsanız bulursunuz — değerlendirmeyle, gözlemle, yanıtın yanlış olduğu durum için bilinçli tasarımla.

Ödünleşim. Hata modları için tasarım yapmak, tam da kullanmakta olduğunuz sisteme güvenmemek demektir — bu soğukkanlılık heyecanı yatıştırır, ama güvenilirliğin önkoşuludur.

Maliyet. Her karşı önlem — kontrol, gözlem, denetim — ek iş ve sistemde kendisi de bakım gerektiren ek parçalar demektir.

Ne zaman farklı karar veririz. Yanlış bir yanıtın sonuçsuz olduğu yerde — zaten bir insanın kontrol ettiği bir öneri, kritik olmayan bir ek — zahmetli karşı önlemler sadeleştirilebilir; tam güvence, yanıtın bir şeyi tetiklediği yerde geçerlidir.

5. Guardrail'ler ve sınırlar

Olasılıksal bir sistem, içinde etki göstermesine izin verilen — ve dışında etki gösteremeyeceği — sınırlara ihtiyaç duyar. Bu sınırların kendisi deterministiktir: Modele neyin girdiğini ve neyin çıktığını kontrol eden ve yanlış veya izin verilmeyen bir yanıtın etki göstermesini engelleyen sabit kurallar. Model önerir; önerinin uygulanıp uygulanamayacağına sınır karar verir. Böylece sorumluluk olasılıksal bir şeyde değil, denetlenebilir bir şeyde kalır.

Şema: Olasılıksal çekirdek deterministik sınırlarla çevrelenir. Neyin girdiği ve neyin çıktığı kontrol edilir — sorumluluk kesin olan bir şeyde kalır.

Etkinin gerektirdiği yerde insan da sınırların bir parçasıdır. Her yapay zeka çıktısını bir insanın kontrol etmesi gerekmez — bu, faydayı ortadan kaldırırdı —, ama yanlış bir yanıtın ciddi zarar verdiği her yerde, öneri ile etki arasındaki yola bir insan denetimi konmalıdır. Ustalık, bu denetimi önemli olduğu yerde kullanmak ve hatanın sonuçsuz olduğu yerde bırakmaktır — her yerde de değil, hiçbir yerde de değil.

Ödünleşim. Sınırlar ve denetim, güvenilirliği yapay zekanın vaat ettiği hızın ve özerkliğin bir kısmı karşılığında satın alır — tamamen serbest bir sistem daha hızlıdır, ama sorumsuzdur.

Maliyet. Her sınır, tasarlanması, kontrol edilmesi ve bakımı yapılması gereken ek deterministik mantıktır ve her insan denetimi süreçte zamana mal olur.

Ne zaman farklı karar veririz. Modelin çıktısı zaten bir insana yapılan bağlayıcı olmayan bir öneriyse ek sınırlardan vazgeçilebilir — o durumda insan zaten sınırın kendisidir.

6. Veri ve bağlam sistemin kendisidir

Bir yapay zeka sisteminin üretimdeki kalitesi modelden çok, ona verdiğiniz şeye bağlıdır. Bir model genel bir araçtır; ancak onu beslediğiniz bağlamla — doğru soruya yönelik doğru, güncel, güvenilir bilgiyle — faydalı hâle gelir. Kötü bağlamla çalışan mükemmel bir model kötü yanıtlar verir; iyi bağlamla çalışan mütevazı bir model çoğu zaman şaşırtıcı derecede iyi yanıtlar verir. Bu yüzden asıl mühendislik işi çoğu zaman modelde değil, bağlamdadır: onu edinmek, güncel tutmak, temiz ve ilgili biçimde modele ulaştırmak.

Bu, bakışı “hangi model?” sorusundan daha önemli olan “hangi bağlam ve nereden?” sorusuna kaydırır. Bilgi kaynağı güvenilir ve güncel mi? Somut soruya yönelik doğru kesit — ne fazla ne az — seçiliyor mu? Bir yanıtın neye dayandığı izlenebilir kalıyor mu? Bu sorular üretimdeki kaliteyi belirler — ve bunlar sihir değil, klasik veri mühendisliğidir. Onları ciddiye alan, kalite için en büyük kaldıracı elinde tutar.

Ödünleşim. Modele değil bağlama yatırım yapmak, daha az parlak olan işi yapmak demektir — model seçimi yerine veri bakımı —, ama bunun karşılığında en etkili kaldıracı çekersiniz.

Maliyet. İyi bağlam sağlamak ve onu güncel tutmak, veri kaynakları, seçim ve bakım üzerinde kalıcı bir iştir — dünya değiştiği için asla bitmez.

Ne zaman farklı karar veririz. Görev harici bilgi gerektirmiyor, tamamen modelin yeteneğine dayanıyorsa bağlam geri planda kalır ve model seçimi daha ağır basar.

7. Bir mimari sorusu olarak maliyet ve gecikme

İstek başına işletim maliyeti çoğu zaman ihmal edilebilir olan sıradan yazılımın aksine, her yapay zeka isteğinin hissedilir bir bedeli vardır — işlem süresi, para ve kullanıcı için bekleme süresi olarak. Bu maliyetler sonradan optimize edilecek bir yan mesele değil, en baştan bir mimari sorusudur. Her küçük şey için en pahalı modele soran bir sistem, küçük ölçekte etkileyici olabilir ve büyük ölçekte karşılanamaz hâle gelebilir.

Sorumlu yaklaşım, modeli idareli kullanılan pahalı ve yavaş bir kaynak gibi ele alır. Ona her yerde değil, yalnızca gerçekten gerektiği yerde sorarsınız; aynı sorunun tekrarlandığı yerde yanıtları saklarsınız; basit görevler için daha küçük ve ucuz aracı, zor görevler için daha güçlüsünü seçersiniz; model yavaş olduğunda veya devre dışı kaldığında ne olacağını planlarsınız. Böylece maliyet ve gecikme işletim ayrıntıları değil, mimariyi veritabanının sıradan bir sistemi şekillendirdiği kadar güçlü biçimde şekillendiren unsurlar hâline gelir.

Ödünleşim. Maliyet ve gecikmeyi ciddiye almak, her yerde en güçlü modeli kullanmamak demektir — biraz yeteneği karşılanabilirlik ve hız ile takas edersiniz.

Maliyet. Tutumlu mimari — kademeli modeller, önbellekler, yedek yollar — kendisi de inşa edilip bakımı yapılan ek bir karmaşıklıktır.

Ne zaman farklı karar veririz. İsteklerin seyrek ve yanıtın özellikle değerli olduğu yerde en pahalı araç seçilebilir; tutumluluk, miktarın ve tekrarın maliyetleri yükselttiği yerde geçerlidir.

8. Önemli olduğu yerde determinizm

Bütün bu bölümleri birbirine bağlayan fikir mimari bir fikirdir: Olasılıksal olanı deterministik olanla çevrelersiniz. Olasılıksal kısım — model — yeteneğinin tek yol olduğu alanla sınırlandırılır; çevresinde kesin olabilecek her şey kesin olarak inşa edilir. Kontroller, sınırlar, bağlamın seçimi, çıktının işlenmesi: Bunların hepsi test edebileceğiniz ve sorumluluğunu üstlenebileceğiniz sıradan, deterministik yazılımdır. Böylece çekirdeği yönetilebilir olmasa da sistem bir bütün olarak yönetilebilir hâle gelir.

Belirsiz bir aracı sorumlu biçimde kullanmanın görünürdeki çelişkisi böyle çözülür. Modeli güvenli kılmazsınız — bunu yapamazsınız —, onun etrafındaki sistemi güvenli kılarsınız. Olasılıksal çekirdek olduğu gibi kalır, ama çevrelenmiş, gözlemlenmiş ve sınırlandırılmıştır; böylece belirsizliği yerel kalır ve bütüne yayılmaz. Bu, iyi mühendisliğin her yerinde geçerli olan aynı tutumdur: Belirsiz olanı küçük tutmak ve denetlenebilir bir şeyin arkasına koymak.

Ödünleşim. Olasılıksal olanı çevrelemek, çevresindeki ek deterministik yapıya mal olur — sorumluluğunu üstlenebilmek için model çağrısından fazlasını inşa edersiniz.

Maliyet. Çerçeve gerçek bir iştir: Kontroller, sınırlar ve gözlem, kendi bakımı olan ayrı bileşenlerdir ve eforu salt model çağrısının çok ötesine taşır.

Ne zaman farklı karar veririz. Modelin belirsizliğinin sonuçsuz kaldığı yerde tam çerçeveden tasarruf edilir; özen, yanlış bir yanıtın verebileceği zararla birlikte artar.

9. Tipik hatalar

Yapay zekanın üretimde başarısız olduğu tekrarlayan örüntüler — neredeyse hepsi demoyu sistem sanmanın varyasyonlarıdır:

• Demonun başarısını üretime hazır olmanın kanıtı saymak ve arkasındaki yolu hafife almak.
• Olasılıksal bir sistemi deterministik yazılım gibi ele almak ve sabit, tekrarlanabilir çıktılara güvenmek.
• Bir yapay zeka sistemini değerlendirme olmadan kurcalamak — değiştirip ölçmek yerine değiştirip ummak.
• Hata gibi değil, akıcı yanıtlar gibi göründükleri için sessiz hata modlarını gözden kaçırmak.
• Girdilerini ve çıktılarını deterministik sınırlarla çevrelemek yerine modele körü körüne güvenmek.
• Asıl sorun bağlamken modeli optimize etmek — iyi veri çalışmasını model seçimiyle ikame etmeye çalışmak.
• Sistem büyük ölçekte karşılanamaz veya fazla yavaş hâle gelene kadar maliyet ve gecikmeyi sonraki bir optimizasyon olarak ele almak.
• İnsan denetimini, yanlış bir yanıtın gerçekten zarar verdiği yerde değil, her yerde ya da hiçbir yerde kullanmak.

10. Karar kontrol listesi

Bir yapay zeka üretim sistemini inşa etmeden önce ve inşa ederken sırasıyla netleştirilmesi gerekenler:

• Demo mu sistem mi? Etkileyici demonun yalnızca başlangıç olduğu net mi — ve güvenilirliğe giden yol planlandı mı?
• Olasılıksallık anlaşıldı mı? Çıktıların değişken ve zaman zaman ikna edici biçimde yanlış olduğunun herkes farkında mı — ve sistem buna göre tasarlandı mı?
• Değerlendirme var mı? Kalitenin — her değişiklikten önce — ölçüldüğü, bakımı yapılan bir durum kümesi var mı?
• Hata modları düşünüldü mü? İkna edici yanlış ifade, sapma, uç durum ve girdi manipülasyonu ele alındı mı?
• Çevrelendi mi? Olasılıksal çekirdek, girdiyi ve çıktıyı kontrol eden deterministik sınırlarla çevrili mi?
• Gereken yerde insan var mı? Yanlış bir yanıtın ciddi zarar verdiği yerde — ve yalnızca orada — yolda bir insan denetimi duruyor mu?
• Bağlam kontrol altında mı? Bilgi kaynağı güvenilir, güncel ve izlenebilir mi — ve doğru kesit seçiliyor mu?
• Maliyet ve gecikme planlandı mı? İstek başına bedel; kademeli modeller, önbellek ve yedek yollarla birlikte düşünüldü mü?
• Gözlemlenebilir mi? Sistemin üretimde nasıl davrandığı — sessiz kötüleşme dahil — görülebiliyor mu?

Bu sorulara yanıt verebilen, yalnızca etkileyen bir demo değil, sorumluluğunu üstlenebileceği bir yapay zeka sistemi inşa etmiştir.

Sıkça Sorulan Sorular

İkna edici bir demo neden yeterli değildir? Çünkü bir demo en iyi durumu gösterir, bir üretim sistemi ise kötü durumu atlatmak zorundadır. Sergilenen on durumda parlayan bir model, on birincisinde sessizce yanlış bir şey iddia edebilir — ve üretimde önemli olan o on birinci durumdur. Asıl iş demonun bittiği yerde başlar.

Her zaman aynı yanıtı vermeyen bir sistem nasıl test edilir? Beklenen bir sonuçla değil, çok sayıda durum üzerinden değerlendirmeyle: istenen sonuçlara sahip bir örnek kümesi ve sistemin ne sıklıkla ve ne ölçüde saptığına dair bir ölçü. Kaliteyi tekil durumda değil istatistiksel olarak ölçersiniz ve her değişiklikten önce yeniden ölçersiniz, çünkü bir yerdeki iyileştirme başka bir yere zarar verebilir.

En tehlikeli hata modu hangisidir? İkna edici yanlış ifade. Model akıcı, makul, kendinden emin ama doğru olmayan bir yanıt verir — uyarısız, kesintisiz. Tehlikelidir, çünkü doğru bir yanıttan ayırt edilemez ve bu yüzden inanılır. Karşı önlemler değerlendirme, güvenilir kaynaklara karşı kontrol ve önemli olduğu yerde insan denetimidir.

Model mi daha önemli, veri mi? Çoğunlukla modele verdiğiniz bağlam. Kötü bağlamla çalışan güçlü bir model kötü yanıt verir; iyi bağlamla çalışan mütevazı bir model çoğu zaman şaşırtıcı derecede iyi. Bu yüzden en etkili iş nadiren model seçimindedir; güvenilir, güncel bilgileri temiz ve ilgili biçimde modele ulaştırmaktadır.

Her yapay zeka çıktısını bir insanın kontrol etmesi gerekir mi? Hayır — bu faydayı ortadan kaldırırdı. İnsan denetimi, yanlış bir yanıtın ciddi zarar verdiği yere aittir ve hatanın sonuçsuz olduğu yerde kaldırılabilir. Ustalık onu hedefli kullanmaktır — her yerde de değil, hiçbir yerde de değil.

Maliyetler nasıl kontrol altında tutulur? Modeli pahalı ve yavaş bir kaynak gibi ele alarak: Yalnızca gerektiği yerde sormak; tekrarlanan yanıtları saklamak; basit görevler için daha küçük aracı seçmek; yavaş olduğunda veya devre dışı kaldığında bir çıkış yolu planlamak. Maliyet ve gecikme sonraki bir optimizasyon değil, en baştan bir mimari sorusudur.

İleri okuma

• İyi araçlar güçlendirir — ilgili Mühendislik Hikâyesi: Yapay zeka yetkinliği büyütür, ama muhakemenin yerini almaz.
• Observability bir mimari meselesidir — gözlemlenmeyen bir sistemin sessiz kötüleşmesini neden göstermediği.
• Uzun ömürlü sistemler için API tasarımı — modeli kararlı bir sınırın arkasına bağlamak, değiştirilebilir tutmak.
• Yazılım projeleri gerçekte neden başarısız olur — etkileyici başlangıç ile taşıyıcı sistemin neden iki ayrı şey olduğu.

Temeli Batunet Engineering Method'tur: belirsiz olanı çevrelemek, hata durumu için tasarlamak, ilk günden itibaren gözlemlenebilirlik, muhakemeyi insanda tutmak.

Son mühendislik ilkesi

Yapay zeka iyi mühendisliği neyin oluşturduğunu değiştirmez — yalnızca onu sınava sokar. Olasılıksal bir model disiplinden vazgeçmek için bir neden değil, onu uygulamak için en güçlü vesiledir: inanmak yerine ölçmek, hata durumu için tasarlamak, belirsiz olanı kesin olan bir şeyin arkasına koymak, muhakemeyi insana bırakmak. Bir yapay zeka demosu ile bir yapay zeka sistemi arasındaki fark, tam olarak izlenim ile mühendislik arasındaki farktır. Model yeteneği sağlar; güvenilirliği ise onun etrafında inşa ettiğiniz sistem sağlar. Bunu kavrayan, yapay zekada mühendisliği atlatan bir kestirme değil, mühendislik için yeni ve zorlu bir uygulama alanı görür.

Bir demo, bir şeyin olabileceğini gösterir. Bir sistem ise onun güvenilir biçimde olmasını sağlar — kötü durumda da. İkisinin arasında bütün iş yatar ve bu iş sihir değil, mühendisliktir.