Yapay zeka ne zaman yanlış çözümdür

Alışılmadık bir metin bu: Yapay zeka geliştiren bir şirket, onun ne zaman kullanılmaması gerektiğini yazıyor. Onu inandırıcı kılan da tam olarak bu. Yapay zeka satıp yalnızca imkânlarını öven kişi güvenilir bir danışman değildir; onun nerede yanlış tercih olduğunu söyleyen kişinin ise onu uymadığı yerde satmakta bir çıkarı yoktur. Yapay zekanın neredeyse her probleme yapıştırıldığı bir pazarda, onun oraya gerçekten ait olup olmadığına dair soğukkanlı soru nadir hâle geldi — ve bu yüzden değerli.

Bu doküman o soruyu soruyor. Yapay zekayı ne bir sihir ne de bir tehdit olarak ele alıyor; bazı problemlere uyan, pek çoğuna uymayan, belirli bir biçimi olan bir araç olarak görüyor. Sakin bir dille, abartısız ve bilinçli olarak model ve ürün açısından tarafsız yazıldı. Yapay zekanın üretime sorumlu bir şekilde nasıl taşınacağı sorusunun öbür yüzüdür: Onu nasıl kullanacağınızı sormadan önce, kullanmanız gerekip gerekmediğini sorarsınız. Rakam verilmiyor.

1. “Yapay zeka?” neden yanlış ilk sorudur

Pek çok girişim tersten başlar: problemle değil, teknolojiyle. “Yapay zeka kullanmalıyız” bir gereksinim değil, problem arayan bir çözümdür — ve problem arayan çözümler, uysun ya da uymasın, neredeyse her zaman bir tane bulur. Doğru ilk soru yapay zeka kullanıp kullanmayacağınız değil, hangi problemi çözmek istediğiniz ve bu problemin hangi biçime sahip olduğudur. Problem netleştikten sonra ancak yapay zekanın buna uygun yanıt olup olmadığını — ya da başka bir şeyin uygun olup olmadığını — anlamlı biçimde sorabilirsiniz.

Teknolojiden yola çıkan, en iyi çözümün önünü kendisi kapatır; çünkü artık yalnızca seçilmiş teknolojiyi uygulamanın yollarını arar. Problemden yola çıkan ise olasılıkların tamamını görür — bir kural, bir hesaplama, mevcut bir ürün, bir insan ve bazen de yapay zeka. Sıralama, yanıtın kalitesini belirler: önce problem, sonra teknoloji. “Yapay zeka istiyoruz” diye başlayan bir girişim, en önemli kararı soruyu sormadan önce vermiş olur.

Avantajlar ve sınırlamalar. Problemden başlamak, yapay zekanın uygun çözüm olmayabileceğini kabul etmeyi gerektirir. Teknolojiye duyulan ilgi yerine gerçek ihtiyaca öncelik verilir.

Maliyet. Bu disiplin, bir girişimi yavaşlatmayı ve herkes istenen teknolojiyi çoktan kullanmak isterken onun gerçekten uyup uymadığına dair rahatsız edici soruyu sormayı gerektirir.

Ne zaman farklı karar veririz. Bir girişimin amacının açıkça yapay zekayı denemek olduğu durumlarda — bilinçli bir öğrenme denemesi —, başlangıç noktası teknolojidir; bunun dışındaki her yerde önce problem gelir.

2. Hangi problemler yapay zekaya uygundur?

Yapay zekanın belirli bir biçimi vardır ve aynı biçime sahip problemlere uyar. Net bir kuralın değil, birçok örnekteki bir örüntünün bulunduğu yerde; girdinin bulanık, doğal dilde ya da çok çeşitli olduğu yerde; yaklaşık doğru bir yanıtın işe yaradığı ve ara sıra yapılan bir hatanın tolere edilebildiği yerde güçlüdür. Dili anlamak, benzer olanı tanımak, birçok örnekten genelleme yapmak — bunlar yapay zekanın biçimindeki görevlerdir ve orada çoğu zaman tek uygulanabilir çözüm odur.

Şema: Daha iyi ya da daha kötü değil, biçim meselesi. Solda, kesinliğin gerektiği yerde kural kazanır; sağda, bulanık ve hataya toleranslı olan yerde yapay zeka uyar. Problemlerin çoğu, zamanın ruhunun düşündürdüğünden daha solda yer alır.

Biçiminin nerede uymadığı da aynı ölçüde açıktır. Kesin, her zaman aynı bir yanıtın beklendiği yerde; doğrudan uygulanabilecek net bir kuralın bulunduğu yerde; hatanın para, hukuk ya da güvenliğe dokunduğu için tolere edilemediği yerde; yanıtın izlenebilir ve gerekçelendirilebilir olması gereken yerde — yapay zeka yanlış tercihtir, çünkü kesinlik gereken yerde olası olanı sunar. Böylece “Yapay zeka uyar mı?” sorusu özünde, problemin bulanık ve hataya toleranslı mı, yoksa kesin ve affetmez mi olduğu sorusudur. Bir örnek bunu somutlaştırır: Sabit kurallara uyan bir hesaplamayı yapay zekayla çözmek, kesin olan bir şeyi olası olan bir şeyle değiştirmek olurdu — ve “çoğunlukla doğru” olan bir sonuç, tam olarak doğru olması gereken yerde değersizdir. Serbestçe yazılmış bir metindeki duygu durumunu tanımak ise sabit bir kurala değil, birçok örnekteki bir örüntüye dayanır; bunu katı kurallarla çözmeye çalışmak, dilin çeşitliliğine takılıp kalır. Aynı şirketin her iki problemi de olabilir — ve biri için yapay zeka yanlış, diğeri için tek uygulanabilir çözümdür. Teknoloji problemin biçimine uyar; problem istenen teknolojiye değil.

Avantajlar ve sınırlamalar. Yapay zekanın kullanılabilmesi, uygun olduğu anlamına gelmez. Problemin yapısı farklı bir çözümü gerektiriyorsa yapay zekadan vazgeçmek gerekir.

Maliyet. Problem biçiminin dürüstçe incelenmesi, kendi görevinizi istenen teknolojiye uydurmak yerine onu tam olarak anlamanızı gerektirir.

Ne zaman farklı karar veririz. Bir problem her iki biçimi de içerdiğinde — bulanık bir kısım ve kesin bir kısım —, bütünü yapay zekaya devretmek yerine bunları ayırır ve her kısmı uygun araçla çözeriz.

3. Bir kural yettiğinde

Yapay zekanın yanlış tercih olduğu en yaygın durum aynı zamanda en göze batmayanıdır: Net bir kural vardır ve bir kural, öğrenilmiş bir olasılıktan neredeyse her bakımdan üstündür. Bir kural kesindir — her zaman aynı yanıtı verir. İzlenebilirdir — onu okuyabilir ve gerekçelendirebilirsiniz. Ucuzdur — her istekte pahalı bir hesaplama gerektirmez. Ve güvenilirdir — ikna edici biçimde yanılmaz, tam olarak yazılı olanı yapar. Bir problemin bir kuralla çözülebildiği yerde yapay zeka yalnızca gereksiz değil, daha kötüdür.

Şema: Yapay zeka asla ilk soru değildir. Net bir kural varsa o kazanır. Ancak hiçbir kuralın işlemediği yerde, problemin yapay zekanın biçimine gerçekten sahip olup olmadığı incelenir.

Kurala dayalı bir problemi de yapay zekayla çözmenin cazibesi büyüktür, çünkü yapay zeka daha modern görünür — ama sonuç, birkaç satırlık net mantıktan daha pahalı, daha yavaş, daha opak ve daha az güvenilir bir sistemdir. Anladığınız ve güvendiğiniz bir çözümü, yalnızca kabaca anladığınız ve bazen ikna edici biçimde yanılan bir çözümle takas edersiniz. Bir kuralın yettiği yerde yapay zekaya uzanmak bir ilerleme değil, daha kötü sonuç veren bir karmaşıklaştırmadır.

Avantajlar ve sınırlamalar. Kurala dayalı çözüm, daha az gösterişli görünse de belirli problemlerde daha kesin, açıklanabilir ve düşük maliyetlidir.

Maliyet. Basit bir problemi olduğundan daha ilginç kılma cazibesine direnmeniz ve yalın çözümü heyecan verici olanın cazibesine karşı savunmanız gerekir.

Ne zaman farklı karar veririz. Bir kuralın, bakımı yapılabilir olmaktan çıkacak kadar çok istisnası olacaksa ya da örüntü kurala sığmıyorsa, öğrenilmiş çözüm daha iyisidir — o zaman yapay zekanın biçimi uyar.

4. Yanlış yerdeki yapay zekanın gizli maliyetleri

Yapay zekayı ona ihtiyaç duymayan bir problem için kullanmak yalnızca gereksiz değildir, gerçek bir maliyeti de vardır — ve bu maliyetler karar anında genellikle görünmezdir. Yapay zeka kesin olanı değil olası olanı sunar; dolayısıyla sistem onun bulanıklığını miras alır: Bir kuralın düpedüz doğru olacağı yerde ikna edici biçimde yanılabilir. Bir kuralın neredeyse hiçbir şeye mal olmadığı yerde her istek işlem süresine ve paraya mal olur. Bir kuralın okunabileceği yerde yanıtı izlemek daha zordur. Ve sistem, her olasılıksal sistem gibi izlenmeli, değerlendirilmeli ve bakımı yapılmalıdır — buna ihtiyaç duymayacak bir problem için kalıcı bir yük.

Bu gereksiz maliyetler özellikle can sıkıcıdır, çünkü gizlenirler: Bütçede yapay zeka bir yetenek olarak yer alır, elde edilebilecek basit çözüme göre ek bir bedel olarak değil. Yapay zekayı, yerini aldığı kuralla değil hiçbir şeyle karşılaştırırsınız — ve böylece dürüst karşılaştırmanın “yapay zeka ile hiç çözüm olmaması” değil, “yapay zeka ile daha iyi olacak yalın çözüm” arasında olduğunu gözden kaçırırsınız.

Bu maliyetler iki kat ağır basar, çünkü karşılığında hiçbir şey almazsınız. Yapay zekanın biçimindeki bir problemde bunları, başka türlü elde edemeyeceğiniz bir yetenek için ödersiniz; kurala dayalı bir problemde ise hiçbir şey için ödersiniz — basit, güvenli bir çözümü pahalı, güvensiz bir çözümle takas etmiş ve karşılığında yalnızca modernlik görüntüsü almışsınızdır. Bu yüzden en pahalı yapay zeka kullanımı zor olanı değil, gereksiz olanıdır: bir kuralın daha iyi çözeceği bir problem için yapay zeka.

Avantajlar ve sınırlamalar. Yapay zekayı değerlendirirken demo etkisinin yanı sıra veri, değerlendirme, kullanım, izleme ve bakım maliyetleri de hesaba katılmalıdır.

Maliyet. Bu soğukkanlılık, cazibenin ardına bakmayı ve yapay zekanın etkileyici olduğunda bile yol açtığı emeği adlandırmayı gerektirir.

Ne zaman farklı karar veririz. Yapay zeka, kendi biçimindeki bir problemin gerçekten gerektirdiği bir yeteneği sağladığında maliyetleri yerinde harcanmıştır; gereksiz hâle gelmeleri, ancak daha basit bir çözümün aynı şeyi daha güvenli biçimde başaracağı durumda söz konusudur.

5. Cazibe ve baskı

Bir teknoloji, yapay zeka kadar büyük bir baskı altında nadiren seçilir. Dışarıdan bir beklenti vardır — müşteriler, yatırımcılar, pazar “Siz de yapay zekayla bir şey yapıyor musunuz?” diye sorar —, içeriden de en yeniyle çalışma ve modern görünme cazibesi. Her ikisi de, problemin buna ihtiyaç duyup duymamasından bağımsız olarak girişimleri yapay zekaya doğru iter. Böylece yapay zeka kullanmak için kullanılan yapay zeka ortaya çıkar: bir probleme değil, bir beklenti baskısına verilen yanıt olarak.

Baskının nadiren düşünülen bir öbür yüzü vardır: Yalnızca görüntüye hizmet eden yapay zeka güven yaratmak yerine güven kaybettirebilir. Kullanıcılar, bir kuralın daha iyi olacağı yere yapay zeka sıkıştırıldığı için bir işlevin daha zahmetli, daha yavaş ya da daha az güvenilir hâle geldiğini fark eder. Modern bir sinyal olarak düşünülen şey o zaman problem arayan bir çözüm gibi görünür. Yapay zekayı özenle kullanan ve uymadığı yerde yokluğunu açıklayan bir şirket, onu her yere yerleştirip görüntüyü işin özünden daha önemli saydığını gösteren bir şirketten uzun vadede daha fazla güven kazanır.

Bu baskıya direnmek teknolojinin değil, duruşun meselesidir. Yapay zekayı uyduğu yerde kullanan ve uymadığı yerde dışarıda bırakan bir şirket, onu her yere yerleştiren bir şirketten uzun vadede daha yetkin görünür — çünkü yapay zekası yalnızca var olmakla kalmaz, bir şey başarır. Yapay zekayı amaç hâline getirmemekteki sakin ölçülülük başlı başına bir olgunluk göstergesidir: Teknolojiye, nereye ait olduğunu bilecek kadar hâkim olduğunuzu gösterir. Yapay zekayı yalnızca kullanmış olmak için kullanan, var olmayı yetkinlikle karıştırır.

Avantajlar ve sınırlamalar. Yapay zeka kullanma baskısına direnmek, kısa vadede daha az yenilikçi görünmeye yol açabilir. Karşılığında teknoloji, yalnızca ölçülebilir bir fayda sağladığında kullanılır.

Maliyet. “Yapay zekayla bir şey yapıyor musunuz?” beklentisine katlanmanız ve trendin arkasına saklanmak yerine ölçülülüğünüzü açıklayabilmeniz gerekir.

Ne zaman farklı karar veririz. Görünür bir yapay zeka yeteneğinin kendisi meşru bir hedef olduğunda — örneğin ürün vaadinin bir parçası olarak —, kullanımı bir amaç hâline getirilmiş değildir; ölçülülük, yalnızca görüntüye hizmet eden yapay zeka içindir.

6. Dürüstçe nasıl karar verilir

Dürüst karar, cazibeyi ve baskıyı dışarıda bırakan basit bir sırayı izler. Önce problemi, herhangi bir teknolojiden bağımsız olarak adlandırırsınız. Sonra net bir kural ya da mevcut bir çözüm olup olmadığını sorarsınız — varsa işiniz biter. Yoksa problemin yapay zekanın biçimine sahip olup olmadığını sorarsınız: bulanık, örüntüye dayalı, hataya toleranslı. Ancak bu biçime sahipse ve daha basit hiçbir çözüm işlemiyorsa yapay zeka doğru tercihtir — ve o zaman, olasılıksal bir sistemin üretimde gerektirdiği her şeyle birlikte onu sorumlu bir şekilde kullanırsınız.

Bu sıra her iki hatadan da korur: Bir kuralın yettiği yerde yapay zekayı seçmekten ve tek uygulanabilir çözüm olduğu yerde ondan kaçınmaktan. “Yapay zeka istiyor muyuz?” sorusunun yerine “Bu problemin yapay zekaya ihtiyacı var mı?” sorusunu koyar — ve ikincisinin bir yanıtı vardır, birincisi ise yalnızca bir ruh hâlidir. Böyle karar veren, yapay zekayı pazardan daha seyrek kullanır, ama her seferinde adlandırabileceği bir gerekçeyle. Ve adlandırılmış bir gerekçe, bir şey başaran teknoloji ile yalnızca var olan teknoloji arasındaki farktır.

Avantajlar ve sınırlamalar. İhtiyaç ve uygunluk değerlendirmesi, yapay zekanın daha az projede kullanılmasına yol açabilir. Kullanıldığı her yerde gerekçesi daha açık olur.

Maliyet. Bu sıra, yapay zekanın zaten yanıt olduğu yönündeki rahat varsayımı izlemek yerine her girişimi baştan düşünmeyi gerektirir.

Ne zaman farklı karar veririz. Bir problem açıkça yapay zekanın biçimindeyse ve hiçbir kural işlemiyorsa uzun incelemeyi atlarız; sıranın tamamı, yapay zekaya yönelik baskının nesnel gerekçeden büyük olduğu durumlar içindir.

7. Tipik hatalar

Yapay zeka kullanımının başarısız olduğu tekrar eden örüntüler — neredeyse hepsi problemle değil, teknolojiyle başlamanın varyasyonlarıdır:

• Problemle başlayıp uygun teknolojiyi aramak yerine “Yapay zeka istiyoruz” diye başlayıp bir problem aramak.
• Kurala dayalı bir problemi daha modern göründüğü için yapay zekayla çözmek — ve kesin, ucuz bir çözümü bulanık, pahalı bir çözümle takas etmek.
• Problemin biçimini görmezden gelip olası olanın yetmediği kesin, affetmez bir şeye yapay zekayı uygulamak.
• Demo etkileyici olduğu için gizli maliyetleri — bulanıklık, işlem bedeli, opaklık, bakım — gözden kaçırmak.
• Beklenti baskısına boyun eğip bir problem gerektirdiği için değil, yapay zeka kullanmış olmak için yapay zeka kullanmak.
• Var olmayı yetkinlikle karıştırmak — yapay zekayı bir şey başardığı yerde kullanmak yerine her yere yerleştirmek.
• Karma bir problemi, kesin kısmını bir kuralla ve yalnızca bulanık kısmını yapay zekayla çözmek yerine tamamen yapay zekaya devretmek.

8. Karar kontrol listesi

Yapay zekayı kullanmadan önce sırayla netleştirilmesi gerekenler:

• Önce problem mi? Problem teknolojiden bağımsız olarak adlandırıldı mı — yoksa girişim “Yapay zeka istiyoruz” diye mi başlıyor?
• Kural ya da çözüm mevcut mu? Problemi kesin ve ucuz biçimde çözen net bir kural ya da mevcut bir çözüm var mı?
• Biçim incelendi mi? Problem bulanık, örüntüye dayalı ve hataya toleranslı mı — yoksa kesin, kurala dayalı ve affetmez mi?
• Hata tolere edilebilir mi? Ara sıra yapılan bir hata paraya, hukuka ya da güvenliğe dokunuyor mu — yoksa yaklaşık doğru bir yanıt işe yarıyor mu?
• İzlenebilirlik gerekli mi? Yanıtın gerekçelendirilebilir olması gerekiyor mu — bu da olasılıksal bir sisteme karşı bir argümandır?
• Ek maliyetler değerlendirildi mi? Sonuçların belirsizliği, işlem maliyeti, açıklanabilirlik ve bakım gereksinimi beklenen faydayla karşılaştırıldı mı?
• Baskı mı, gerekçe mi? Tercih nesnel bir gerekçeye mi dayanıyor — yoksa beklenti baskısına ve yeninin cazibesine mi?
• Karma problem ayrıldı mı? Kesin kısım bir kuralla, yalnızca bulanık kısım yapay zekayla mı çözüldü?

Bu soruları yanıtlayabilen, yapay zekayı bir şey başardığı yerde kullanır — ve yalın bir çözümün üstün olduğu yerde dışarıda bırakır.

Sıkça Sorulan Sorular

Bir yapay zeka şirketi neden yapay zeka kullanımına karşı tavsiyede bulunuyor? Çünkü bir tavsiye, ancak kendi çıkarınıza rağmen verilmeye hazır olduğu ölçüde değerlidir. Yapay zeka satıp yalnızca imkânlarını öven kişi güvenilir bir danışman değildir. Yapay zekayı uyduğu yerde önermek ve bir kuralın yettiği yerde ondan vazgeçirmek, teknolojiyi satmak yerine ona hâkim olduğunuzun işaretidir.

Problemimin yapay zekaya ihtiyacı olup olmadığını nasıl anlarım? Biçiminden. Net bir kural değil de yalnızca birçok örnekteki bir örüntü varsa; girdi bulanık ya da dilselse; yaklaşık doğru bir yanıt işe yarıyor ve bir hata tolere edilebiliyorsa — problem yapay zekanın biçimine sahiptir. Kesin, kurala dayalıysa ve bir hata tolere edilemiyorsa yapay zeka yanlış tercihtir.

Basit bir kural, yapay zekaya kıyasla geri kalmış değil midir? Hayır, çoğu zaman üstündür. Bir kural kesin, izlenebilir, ucuz ve güvenilirdir; yapay zeka ise olasılıksal, opak, pahalıdır ve zaman zaman ikna edici biçimde yanılır. Bir kuralın problemi çözdüğü yerde yapay zeka daha modern değil, daha kötüdür — aynı sonuç için daha pahalı ve daha güvensiz.

Ona ihtiyaç duymayan bir problem için yapay zeka neye mal olur? Sandığınızdan fazlasına ve karşılıksız olarak: kesinlik yerine bulanıklık, istek başına işlem bedeli, daha zor izlenebilirlik ve olasılıksal bir sistemin kalıcı bakımı. Uygun bir problemde bunu başka türlü elde edemeyeceğiniz bir yetenek için ödersiniz; kurala dayalı bir problemde ise hiçbir şey için.

“Yapay zekayla bir şey yapma” baskısıyla nasıl başa çıkarız? Yapay zekayı bir şey başardığı yerde kullanarak ve başarmadığı yerde ölçülülüğünüzü açıklayabilerek. Yapay zekası etki gösteren bir şirket, yapay zekası yalnızca var olan bir şirketten daha yetkin görünür. Var olmak yetkinlik değildir — ve sakin ölçülülük başlı başına bir olgunluk göstergesidir.

Problemin bir kısmı yapay zekaya uyuyor, diğeri uymuyorsa ne olur? O zaman kısımları ayırır ve her birini uygun araçla çözersiniz — kesin kısmı bir kuralla, bulanık kısmı yapay zekayla. Bir kısmı ona uyduğu için problemin tamamını yapay zekaya devretmek, kesinliğe sahip olabileceğiniz yerde de onun bulanıklığını miras almak demektir.

Devamı

• Üretim sistemlerinde yapay zeka — demo değil mühendislik — yapay zeka doğru tercih olduğunda: onu üretime sorumlu bir şekilde nasıl taşırsınız.
• İyi araçlar güçlendirir — buna ait Engineering Story: Yapay zeka yetkinliği büyütür, ama muhakemenin yerini almaz.
• Yenilikten önce olgun teknoloji — yeninin cazibesine karşı aynı soğukkanlılık.
• Build, Buy ya da Configure — bir problemin kendine ait bir çözüme gerçekten ihtiyaç duyup duymadığına dair akraba soru.

Temel, Batunet Engineering Method'dur: problemle başlamak, uygun aracı seçmek, yapay zekayı bir şey başardığı yerde kullanmak ve yalın bir çözümün üstün olduğu yerde dışarıda bırakmak.

Temel mühendislik ilkesi

“Yapay zeka kullanmalı mıyız?” sorusuna verilebilecek en olgun yanıt bir karşı sorudur: Hangi problemi çözüyoruz ve bu problemin biçimi ne? Yapay zeka, kendi biçimindeki problemler — bulanık, örüntüye dayalı, hataya toleranslı — için güçlü bir araç, diğerlerinin hepsi için ise pahalı ve güvensiz bir araçtır. Bir şirket yapay zekadaki yetkinliğini onu her yerde kullanarak değil, nereye ait olup nereye ait olmadığını bilerek gösterir. Her şeyin yapay zekaya ihtiyacı yoktur — ve bunu yapay zeka geliştirenlerin ağzından duymak, alabileceğiniz en güvenilir bilgidir. Her problemi bir yapay zeka problemine dönüştüren, problemi görmeyi bırakmıştır.

En güçlü yapay zeka yetkinliği, ne zaman yapay zekaya ihtiyaç olmadığını bilmektir. Bir araca hâkim olduğunuz, onu her yerde kullanmanızdan değil, nereye ait olduğunu bilmenizden anlaşılır.