Güvenilir yapay zeka yanıtları — bağlam ve kaynaklar için mimari

Gerçek sistemlerde yapay zekanın en yaygın kullanımı, aynı zamanda en kötü anlaşılanıdır: bir yapay zeka yanıtını kendi güvenilir bilginizle birleştirmek; böylece yanıt, modelin genel belleğinden değil, doğrulanmış ve güncel kaynaklardan gelir. Bunun için değişen teknik ve araçlardan söz edilir, ama arkasındaki asıl soru kalıcıdır ve o anki araçla pek ilgisi yoktur: Bir yanıtın yalnızca akıcı görünmesini değil, güvenilir bir şeye dayanmasını nasıl sağlarsınız?

Bu doküman ayın tekniğini değil, bu kalıcı soruyu ele alır. Bilinçli olarak modelden ve üründen bağımsızdır ve belirli bir yöntemin adını vermez, çünkü yöntemler değişir, ilke kalır: Bir yapay zeka yanıtı, ona verdiğiniz bağlam kadar güvenilir, dayandığı kaynaklar kadar kanıtlanabilirdir. Başka yerlerde ele alınanları — yapay zekanın genel olarak üretime sorumlu biçimde nasıl taşınacağını ve ne zaman doğru seçim olduğunu — önceden var sayar ve yanıtın dayandırılmasına odaklanır. Rakam verilmemektedir.

1. Model neden kaynak olmamalı

Bir dil modeli genel ve bulanık bir bellek taşır — çok şey görmüştür, ama hiçbirini güvenilir, güncel ya da doğrulanabilir biçimde değil. Yanıtı yalnızca bu bellekten çeken, doğru da olabilecek yanlış da olabilecek, hangisi olduğuna dair hiçbir ipucu içermeyen makul bir şey elde eder. Ciddi bir uygulama için bu yetersizdir: Bir modelin bir zamanlar bir yerlerde kaptığı şeylere değil, kendi doğrulanmış bilginize — doğruluğuna kefil olabileceğiniz dokümanlara, verilere ve olgulara — dayanan yanıtlara ihtiyacınız vardır.

Temel tutum buradan çıkar: Model ifade eder, ama kaynak o değildir. Kaynak, ona somut soruyla birlikte verdiğiniz bağlamdır — güvenilir, güncel, bu durum için seçilmiş. Model bu bağlamı anlaşılır bir yanıta dönüştürür, ama yanıtın içeriği modelden değil, kaynaktan gelir. Bu ayrım — ifade modelden, içerik güvenilir bağlamdan — her güvenilir yapay zeka yanıtının özüdür. Bu ayrımın olmadığı yerde her yanıt, akıcı bir yüzeye sahip bir tahmin oyunudur.

Ödünleşim. Yanıtı kendi bağlamınıza dayandırmak, güvenilirliği ve kanıtlanabilirliği bu bağlamı sağlama ve güncel tutma emeğiyle satın alır.

Maliyet. Güvenilir bilgiden oluşan bir kaynak ve ondan doğru kesiti soruya getiren yolu inşa eder ve sürdürürsünüz — modelin sizin yerinize yapmadığı bir iş.

Modelin genel bilgisi bu nedenle değersiz değildir, ama farklı bir rolü vardır: İçeriği sağlamak değil, verilen bağlamı anlamaya ve onu akıcı biçimde ifade etmeye yardımcı olur. Modeli dil yeteneği için kullanır, içeriği ise kendi kaynağınıza dayandırırsınız — temiz biçimde ayrılan iki görev. İkisini karıştırıp bağlamın sessiz kaldığı yerde modelin genel belleğinden tamamlama yapmasına izin veren, kapatmak istediği kapıyı tam da açar: makul uydurmanın kapısını.

Ne zaman farklı karar veririz. Genel bilgiden gelen yaklaşık, bağlayıcı olmayan bir yanıtın yeterli olduğu yerde — kritik olmayan bir öneri, oyunsu bir amaç — dayandırmaya gerek yoktur; yanıtın doğru ve kanıtlanabilir olması gerektiği anda ise vazgeçilmezdir.

2. Asıl sistem bağlamdır

Yaygın ilgi modele yönelir — hangisinin seçileceğine, ne kadar güçlü olduğuna. Asıl mühendislik işi ise başka bir yerdedir: bağlamda. Kötü bağlama sahip güçlü bir model kötü yanıtlar verir; iyi bağlama sahip mütevazı bir model ise çoğu zaman şaşırtıcı derecede iyi yanıtlar verir. Dayanaklı bir yapay zeka yanıtının kalitesi, hangi modeli kullandığınızdan çok, modele soruyla birlikte hangi bilgiyi verdiğinize bağlıdır. Bu yüzden inşa ettiğiniz sistem model değil, bağlamdır.

Şema: Model, sondaki yalnızca bir adımdır. Güvenilir kaynak, doğru kesitin seçimi ve kanıtlı çıktı asıl sistemdir — klasik veri ve bilgi işi.

Bakış açısındaki bu kayma önemli sonuçlar doğurur. “Hangi model?” diye sormak yerine “hangi bağlam ve nereden?” diye sorarsınız: Bilgi kaynağı güvenilir ve bakımlı mı? Somut soru için doğru kesit — ne çok fazla, ne çok az, ne de yanlış olan — seçiliyor mu? Bağlam güncel mi, yoksa sistem eskimiş bilgiyi güncelmiş gibi mi sunuyor? Bu sorular sihir değil, klasik veri mühendisliğidir — ve bunlara hâkim olan, yanıtın kalitesi üzerindeki en büyük kaldıracı elinde tutar.

Doğru kesitin seçimi de başlı başına bir ustalıktır ve fazla bağlam, az bağlam kadar zararlıdır. Modele soruyla uzaktan ilgili olabilecek her şeyi verirseniz, asıl ilgili bilgi gürültü içinde kaybolur ve yanıt daha iyi değil, daha kötü olur. Çok az verirseniz modelin dayanağı eksik kalır. Görev, somut soru için tam olarak uygun olanı bulmaktır — ve bu seçim salt bir mekanik değil, başlı başına bir kalite kararıdır. Kesiti kötü seçen bir sistem, iyi kaynaklardan kötü yanıtlar üretir.

Bu mimari böylece daha eski bir disiplinle, veri modellemesiyle kesişir. Soruya uygun kesitin ne kadar iyi bulunabildiği, kaynağın nasıl yapılandırıldığına ve düzenlendiğine bağlıdır — iyi modellenmiş bir bilgi tabanı, doğru olgulardan oluşan düzensiz bir yığından daha iyi kesitler sağlar. Dayanaklı bir yapay zeka yanıtının kalitesi, her uzun ömürlü sistemin veri modeline dayanması gibi, sonuçta alttaki veri modelinin kalitesine dayanır. Yeni yetenek eski gerçeği miras alır: Verinin biçimi ilk bakışta göründüğünden daha belirleyicidir — ve görünüşte en modern yapay zeka uygulaması özünde temiz bir veri işi meselesidir.

Ödünleşim. Modele değil bağlama yatırım yapmak, daha az parlak işi yapmak — model seçimi yerine veri bakımı ve seçim — ama buna karşılık en etkili kaldıracı kullanmak demektir.

Maliyet. İyi bağlam sağlamak, onu güncel tutmak ve doğru seçmek, kaynaklar ve seçim üzerinde hiç bitmeyen kalıcı bir iştir, çünkü bilgi değişir.

Ne zaman farklı karar veririz. Görevin harici, size ait bir bilgiye ihtiyaç duymadığı, tamamen modelin genel yeteneğine dayandığı yerde bağlam geri plana çekilir ve model seçimi daha ağır basar.

3. Kaynaklar ve izlenebilirlik

Dayanaklı bir yanıt yalnızca doğru değil, aynı zamanda kanıtlanabilirdir — neye dayandığını söyleyebilir. Bu bir nezaketten fazlasıdır: İzlenebilirlik, bir yapay zeka yanıtına güvenmenin ve gerektiğinde ona itiraz edebilmenin ön koşuludur. Bir sistem her yanıt için onun geldiği kaynakları belirtirse, bir insan onu doğrulayabilir, bir hata kökenine kadar geri izlenebilir ve yanıt ortada salt bir iddia olarak durmaz, dayanağıyla ölçülebilecek bir şey olarak durur. Bu geri bağlantı olmadan, dayanaklı bir yanıtı bile tahmin edilmiş bir yanıttan ayırt etmek zordur.

Şema: Her bağlam parçasının kökeni yanıta kadar birlikte taşınır. Böylece bir hata geri izlenebilir ve yanıt, körü körüne inanılmak yerine ölçülebilir.

Bu yüzden güvenilir yapay zeka yanıtlarının mimarisine kökeni birlikte taşımak da dahildir: Yanıta giren her bağlam parçasının nereden geldiği bilinir kalır ve bu köken yanıtla birlikte görünür olur. Bu, dayanaksız yapay zekanın en tehlikeli özelliğine — doğru bir yanıttan ayırt edilemeyen ikna edici yanlış ifadeye — karşı korur. Kaynaklı bir yanıt doğrulamaya davet eder; kaynaksız bir yanıt kör güven ister. Önemli olan her şeyde kanıtlanabilir yanıt, iddia eden yanıttan çok daha üstündür.

Birlikte taşınan köken yalnızca okura değil, sistemin kendisine de fayda sağlar. Yanlış yanıtların hangi kaynaklardan geldiğini görebiliyorsanız, sorunu modelle oynayarak değil, kökünden — kaynakta ya da seçimde — giderebilirsiniz. İzlenebilirlik böylece bir yapay zeka sistemini iyileştirilebilir kılar: Yanıt izlediği yolu ele verdiği için bir hatanın nedenini bulursunuz. Kökeni olmayan bir sistemi ancak bir bütün olarak değerlendirebilir ve ancak genel olarak ayarlayabilirsiniz; kökeni olan bir sistem ise hatanın ortaya çıktığı yerde hedefli olarak düzeltilebilir.

Ödünleşim. İzlenebilirlik, doğrulanabilirliği ve güveni, her bağlam parçasının kökenini birlikte taşıma ve görünür kılma emeğiyle satın alır.

Maliyet. Kökeni tüm sistem boyunca — kaynaktan seçime, oradan yanıta kadar — taşımak, inşa edip sürdürdüğünüz ek bir özendir.

Ne zaman farklı karar veririz. Bir yanıtın kritik olmadığı ve kimsenin onu hiçbir zaman doğrulaması gerekmediği yerde tam izlenebilirlikten vazgeçebilirsiniz; yanlış bir yanıtın zarar vereceği ya da sorgulanabileceği yerde ise zorunludur.

4. Dayandırmanın sınırları

Bir yanıtı güvenilir bağlama dayandırmak belirsizliği azaltır, ama ortadan kaldırmaz. İyi bir bağlamla bile model olasılıksal bir sistem olarak kalır: Verilen bağlamı yanlış anlayabilir, iki kaynağı yanlış birleştirebilir, bağlamın ötesine geçip yine de bir şey uydurabilir ya da bağlamdaki bir boşluğu, bunu belli etmeden makul bir tahminle doldurabilir. Dayandırma yanıtı daha güvenilir kılar, yanılmaz değil — ve bu dürüstlük, sistemi doğru ele almanın ön koşuludur.

Buradan, iyi dayandırılmış bir yapay zeka sisteminin de her olasılıksal sistemle aynı disipline ihtiyaç duyduğu sonucu çıkar: Kalitesine güvenmek yerine onu birçok vaka üzerinden ölçersiniz; yanlış bir yanıtı bir istisna olarak değil, olası bir olağan durum olarak ele alırsınız; ve yanlış bir yanıtın ciddi zarar vereceği yerde araya insan kontrolü koyarsınız. Dayandırma, hata olasılığını düşürmenin güçlü bir aracıdır — ama geriye bir miktar hata kaldığı için aldığınız önlemlerin yerini tutmaz. İyi bağlamla belirsizliğin hallolduğuna inanan, aracın doğasını yanlış anlamıştır.

Sınırlar konusundaki dürüstlüğe, kolayca gözden kaçan bir tasarım kararı da dahildir: Bağlam yanıtı içermiyorsa sistem ne yapar? Dayanağı eksik bir soruya güvenilir tepki makul bir tahmin değil, açık bir “bu, mevcut kaynaklardan yanıtlanamaz” ifadesidir. Bir sistemi boşluğu akıcı biçimde doldurmak yerine onu kabul edecek şekilde inşa etmek göründüğünden zordur — çünkü model doğası gereği her zaman bir şey söyleme eğilimindedir. Ama bilginin eksik olduğu yerde susabilme yeteneği, güvenilir bir sistemi yalnızca hoşa giden bir sistemden tam olarak ayıran şeydir.

Ödünleşim. Dayandırmanın sınırlarını kabul etmek, iyi dayandırılmış bir sisteme bile kuşkuyla yaklaşmak ve olasılıksal sistemlerin tam ihtiyatını sürdürmek demektir.

Maliyet. Dayandırma hataları zaten seyrek hâle getirmiş olsa bile değerlendirmeyi (evaluation), hata yönetimini ve insan kontrolünü sürdürürsünüz — seyrek kalan kalıntıya yönelik bir emek.

Ne zaman farklı karar veririz. Geriye kalan hatanın sonuçsuz olduğu yerde önlemleri hafifletebilirsiniz; yanlış bir yanıtın iyi bağlama rağmen zarar verdiği yerde ise vazgeçilmez olarak kalırlar.

5. Güncellik ve bakım

Bir yanıtı kendi bilginize dayandırmanın avantajı, ancak bu bilgi güncel olduğu sürece geçerlidir. Bir zamanlar güvenilir olan ve bakımı yapılmayan bir kaynak, eskimiş bilgiyi güncelmiş gibi sunar — ve eskimiş ama akıcı biçimde sunulan bir yanıt, açık bir “bunu bilmiyorum” ifadesinden daha tehlikelidir, çünkü artık hak etmediği bir güveni görür. Bu yüzden güncellik bir yan mesele değil, mimarinin taşıyıcı bir parçasıdır: Yeni bilginin kaynağa ulaştığı ve eski sürümlerin yerini aldığı yol, yanıtın kendi yolu kadar özenle tasarlanmalıdır.

Güncelliğin yanında eksiksizlik de önemlidir. Boşlukları olan bir kaynak, o boşluklarda yanıt üretmemekle kalmaz; tam da eksik olan şey hakkında kendinden emin yanlış yanıtlar üretir — çünkü model boşluğun bir boşluk olduğunu fark etmez. Bu nedenle kaynağın neyi içermediği sorusu, neyi içerdiği sorusu kadar önemlidir. Yalnızca kaynağında yazanı bilen ama kaynağın nerede sustuğunu bilmeyen bir sistem, kör noktalarını kesin bilgi sanır.

Böylece göze çarpmayan bir gerçek ön plana çıkar: Kendi bilgisini kullanan bir yapay zeka sistemi, zaman içinde her şeyden önce bir veri bakım sistemidir. Yanıtları ifade etmenin parlak yeteneği, kaynakları güvenilir, eksiksiz ve güncel tutmanın gösterişsiz işine dayanır. Bu iş hiç bitmez, çünkü sistemin hakkında bilgi verdiği dünya değişir. Onu hafife alan, o an etkileyici olan ve zamanla sessizce çürüyen bir sistem kurar — model kötüleştiği için değil, bağlamı yaşlandığı için.

Ödünleşim. Güncelliği güvence altına almak, kalıcı güvenilirliği kalıcı bakımla satın alır — yeni bir şey üretmeyen, mevcut olanı geçerli tutan bir iş.

Maliyet. Yeni bilgiyi ekleme ve eskisini değiştirme yolu, görünür bir şey eklemediği için kolayca gözden kaçan, başlı başına ve sürekli bir emektir.

Ne zaman farklı karar veririz. Temeldeki bilginin pek değişmediği yerde bakım azdır; ağırlığı, sistemin hakkında konuştuğu gerçekliğin değişme hızıyla birlikte artar.

6. Tipik hatalar

Dayanaklı yapay zeka sistemlerinin başarısız olduğu tekrarlayan kalıplar — neredeyse hepsi, modeli kaynak sanmanın varyantlarıdır:

• Yanıtı doğrulanmış, kendi bağlamınızdan değil, modelin genel belleğinden çekmek.
• Asıl sorun bağlamken model üzerinde optimizasyon yapmak — iyi veri işini model seçimiyle ikame etmeye çalışmak.
• Bağlam olarak çok fazlasını, çok azını ya da yanlış olanı vermek ve doğru kesitin seçimini hafife almak.
• Kökeni birlikte taşımamak; böylece bir yanıt doğrulanamaz ve tahmin edilmiş bir yanıttan ayırt edilemez.
• İyi dayandırmanın modeli yanılmaz kıldığına inanmak ve olasılıksal sistemlerin önlemlerini bırakmak.
• Kaynağın bakımını yapmamak; böylece sistem eskimiş bilgiyi akıcı biçimde güncelmiş gibi sunar.
• Kalıcı veri bakımını hafife almak ve etkileyici olan ama zamanla sessizce çürüyen bir sistem kurmak.

7. Karar kontrol listesi

Dayanaklı bir yapay zeka sistemi inşa ederken sırasıyla netleştirilmesi gerekenler:

• Model yerine kaynak mı? Yanıtın içeriği doğrulanmış, kendi bağlamınızdan mı geliyor — ve model yalnızca ifade mi ediyor?
• Bağlam kontrol altında mı? Bilgi kaynağı güvenilir, bakımlı ve gelecek sorular için yeterince eksiksiz mi?
• Seçim doğru mu? Somut soru için doğru kesit — ne çok fazla, ne çok az, ne de yanlış olan — seçiliyor mu?
• Köken birlikte taşınıyor mu? Her bağlam parçasının nereden geldiği bilinir kalıyor mu ve yanıt bu sayede doğrulanabilir mi?
• Sınırlar kabul ediliyor mu? Dayandırma hataları seyrekleştirse de değerlendirme, hata yönetimi ve insan kontrolü sürüyor mu?
• Güncellik güvence altında mı? Yeni bilgiyi ekleyip eskisini değiştirmek için tasarlanmış bir yol var mı?
• Bakım planlandı mı? Kalıcı veri bakımı, sistemin zaman içinde her şeyden önce ne olduğu olarak kabul edildi mi?

Bu soruları yanıtlayabilen, yanıtları yalnızca akıcı görünen değil, doğru ve kanıtlanabilir olan bir yapay zeka sistemi inşa etmiştir.

Sıkça Sorulan Sorular

Model neden kaynak olmamalı? Çünkü bilgisi genel, bulanık ve doğrulanamaz — doğru da olabilir, yanlış da; bunu gösteren hiçbir ipucu yoktur. Ciddi bir uygulama için kendi doğrulanmış bilginize dayanan yanıtlara ihtiyacınız vardır. Model ifade eder; içerik güvenilir bağlamdan gelir. Bu ayrımın olmadığı yerde her yanıt, akıcı bir yüzeye sahip bir tahmin oyunudur.

Model mi daha önemli, bağlam mı? Çoğunlukla bağlam. Kötü bağlama sahip güçlü bir model kötü yanıt verir; iyi bağlama sahip mütevazı bir model ise çoğu zaman şaşırtıcı derecede iyi. Bu yüzden asıl iş model seçiminde değil, güvenilir, güncel bilgiyi temiz biçimde ve soruya uygun olarak modele ulaştırmaktadır. Sistem bağlamdır.

İzlenebilirlik neden bu kadar önemli? Çünkü kanıtlanabilir bir yanıt doğrulanabilir ve gerektiğinde ona itiraz edilebilir; yalnızca iddia edilen bir yanıt ise edilemez. Her yanıt için kaynaklar belirtilirse, bir hata kökenine kadar geri izlenebilir ve ikna edici yanlış ifade — dayanaksız yapay zekanın en tehlikeli özelliği — kamuflajını kaybeder. Kaynaklı bir yanıt doğrulamaya davet eder; kaynaksız bir yanıt kör güven ister.

İyi dayandırma modeli yanılmaz kılar mı? Hayır. İyi bir bağlamla bile model olasılıksal kalır: Bağlamı yanlış anlayabilir, kaynakları yanlış birleştirebilir ya da boşlukları tahminlerle doldurabilir. Dayandırma hata olasılığını düşürür, ortadan kaldırmaz. Bu yüzden bir hatanın zarar verdiği yerde değerlendirme, hata yönetimi ve insan kontrolü vazgeçilmez olarak kalır.

En çok hafife alınan maliyet kalemi hangisidir? Bakım. Kendi bilgisini kullanan bir yapay zeka sistemi, zaman içinde her şeyden önce bir veri bakım sistemidir: Kaynaklar güvenilir, eksiksiz ve güncel tutulmalıdır; aksi hâlde sistem eskimiş bilgiyi akıcı biçimde güncelmiş gibi sunar. Bu iş hiç bitmez ve görünür bir şey eklemez — ve bu yüzden kolayca unutulur.

Somut tekniğin adı neden verilmiyor? Çünkü teknikler değişir, ilke kalır. Bağlamın nasıl temin edildiği, seçildiği ve verildiği gelişmeye devam eder; güvenilir bir yanıtın doğrulanmış, güncel bağlama dayanması ve kaynakları üzerinden kanıtlanabilir olması gerektiği ise değişmez. Doküman, bir sonraki teknikle eskimemesi için kalıcı olanı tarif eder.

İleri okuma

• Üretim sistemlerinde yapay zeka — demo değil, mühendislik — olasılıksal sistemler bütün olarak nasıl sorumlu biçimde işletilir.
• Yapay zeka ne zaman yanlış çözümdür — sorunun yapay zekaya gerçekten ihtiyaç duyup duymadığına dair önceki soru.
• Kalıcı veri modellemesi — kaynağın biçimi ve bakımı kaliteyi neden belirler.
• Observability mimaridir — ölçmediğiniz bir sistem sessiz kötüleşmesini neden göstermez.

Temel, Batunet Engineering Method'tur: yanıtı kendi güncel bilgine dayandırmak, kökeni birlikte taşımak, hata durumu için tasarlamak, bakımı ciddiye almak.

Son mühendislik ilkesi

Güvenilir yapay zeka yanıtı modelde değil, modelin önüne koyduğunuz her şeyde ortaya çıkar: güvenilir kaynakta, akıllıca seçimde, birlikte taşınan kökende, bakımı yapılan güncellikte. Model, uzun ve görünmez bir veri işi zincirinin son ve görünür adımıdır — ve yanıtın kalitesi adımda değil, zincirde belirlenir. Güvenilir bir yapay zeka inşa etmek isteyen bu yüzden bir model değil, bilgiyi güvenilir biçimde hazır tutan ve kanıtlanabilir kılan bir sistem inşa eder. Akıcı ifade etme yeteneği ödünçtür ve her yerde aynıdır; güvenilir bağlama dayandırma yeteneği ise sizin kendiniz inşa ettiğiniz şeydir — ve bir yanıtı tahmin edilmiş bir yanıttan ayıran tek şeydir. Bu yeteneği ciddiye alan, bir sonraki modeli aramayı bırakır ve kendi kaynağının bakımına başlar — çünkü bir yapay zeka yanıtı modelde değil, orada güvenilir hâle gelir.

Bir dil modeli her şeyi akıcı biçimde söyleyebilir. Doğruyu söyleyip söylemediğini model değil, ona verdiğiniz bağlam belirler — ve o bağlamın bakımını yapmak asıl iştir.