Ölçeklenebilir Yapay Zeka: Gerçek Zorluk Maliyeti Kısmak Değil, Değeri Yönetmek

Yapay zeka teknolojinin ekonomisini değiştirir

Geleneksel kurumsal teknoloji genellikle nispeten öngörülebilir düzenlemelerle satın alınmıştır: lisanslar, abonelikler, altyapı taahhütleri ve uygulama programları. Maliyetler genellikle çalışan sayısı, sistem kapasitesi veya üzerinde anlaşılan bir iş kapsamı kullanılarak tahmin edilebilirdi.

Yapay zeka bu modele rahatça uymuyor.

Maliyeti gerçek tüketime göre şekilleniyor. Kullanılan modele, işlenen bilgi miktarına, yanıtın uzunluğuna, iş akışının tasarımına ve otomatik bir ajanın diğer sistemleri veya modelleri kaç kez çağırdığına göre değişebilir.

Görünüşte benzer iki görev bu nedenle çok farklı maliyetlere sahip olabilir.

Bu, yapay zeka iş süreçlerine gömüldüğünde özellikle önemlidir. Tek bir etkileşim; bir dizi arama, model çağrısı, doğrulama ve yeniden deneme başlatabilir. Basit bir kullanıcı isteği gibi görünen şey, perde arkasında şaşırtıcı derecede kaynak yoğun bir iş akışına dönüşebilir.

Aynı zamanda yapay zekaya erişim artık yalnızca teknoloji departmanı tarafından kontrol edilmiyor. Çalışanlar, nispeten az teknik bilgiyle yeni araçlara abone olabilir, kendi asistanlarını geliştirebilir ve otomatik süreçler oluşturabilir. Bu erişilebilirlik güçlü bir inovasyon kaynağıdır, ancak parçalı satın alma, yinelenen yetenekler ve kimsenin tam olarak görmediği bir tüketim de yaratabilir.

Geleneksel yıllık bütçeleme bu nedenle yeterli değildir. Yapay zeka aktif talep yönetimi gerektirir.

Tüketimi görünür kılmakla başlayın

Bir kurum, yapay zekanın nerede kullanıldığını bilmiyorsa onu etkili bir şekilde yönetemez.

İlk öncelik, departmanlar, uygulamalar, tedarikçiler ve bulut platformları genelinde birleştirilmiş bir yapay zeka tüketim görünümü oluşturmak olmalıdır. Bu görünümün faturaların ötesine geçmesi gerekir. Liderler; hangi iş sürecinin yapay zeka kullandığını, kimin sahip olduğunu, neye mal olduğunu ve hangi sonucu ürettiğini görebilmelidir.

Model çağrıları veya işleme hacimleri gibi teknik ölçütler mühendisler için faydalıdır, ancak iş kararları için yeterli değildir. Daha anlamlı ölçütler şunlar olabilir:

• Çözülen her müşteri talebi başına maliyet
• İncelenen her belge başına maliyet
• Nitelendirilen her satış fırsatı başına maliyet
• Her yazılım sürümü başına maliyet
• İşlenen her talep, vaka veya işlem başına maliyet
• Yapay zeka destekli bir iş akışının yarattığı gelir, kapasite veya risk azaltımı

Bu, konuşmayı değiştirir. Kurumun fazla yapay zeka kullanıp kullanmadığını sormak yerine, liderler yapay zekanın belirli bir kullanımının yeterli değer üretip üretmediğini sorabilir.

Görünürlük aynı zamanda hesap verebilirlik yaratır. Tüketim, tanımlanabilir bir ürün, süreç veya iş birimiyle ilişkilendirildiğinde, yapay zeka artık açıklanamayan bir merkezi teknoloji gideri olarak görünmez. Sahibi ve beklenen getirisi olan bir iş yatırımı haline gelir.

Görev için doğru zekâ düzeyini kullanın

Kurumlar her faaliyet için en yüksek nitelikli kişilerini kullanmaz. En güçlü — ve genellikle en pahalı — yapay zeka modellerini de her istek için kullanmamalıdır.

Sınıflandırma, çıkarma, temel özetleme ve yapılandırılmış taslak oluşturma gibi birçok rutin görev, daha küçük veya daha ucuz modeller tarafından etkili bir şekilde ele alınabilir. Daha yetenekli modeller ise gerçekten daha derin akıl yürütme, daha yüksek doğruluk veya uzman performansı gerektiren işler için ayrılabilir.

Amaç her durumda en ucuz modeli seçmek değildir. Gerekli standardı güvenilir biçimde karşılayan en ekonomik seçeneği belirlemektir.

Bu karar yalnızca fiyatı düşünmemelidir. Kalite, hız, gizlilik, dayanıklılık ve risk de önemlidir. Bazı durumlarda premium bir model tamamen haklı olacaktır. Diğerlerinde ise daha küçük bir barındırılmış model, kurum içinde işletilen bir model ya da hatta bir cihazda yerel olarak çalışan bir model daha uygun olabilir.

Önemli yetenek esnekliktir: farklı iş yüklerini farklı modellere yönlendirme ve bu kararları teknoloji, fiyatlandırma ve gereksinimler geliştikçe değiştirme yeteneği.

Modeli optimize etmeden önce iş akışını iyileştirin

Model seçimi büyük ilgi görür, ancak verimsiz iş akışı tasarımı daha büyük bir israf kaynağı olabilir.

Yapay zeka sistemleri ihtiyaç duymadıkları bilgileri tekrar tekrar işleyebilir, gereksiz yere uzun konuşma geçmişlerini tutabilir veya görevin gerektirdiğinden çok daha ayrıntılı yanıtlar üretebilir. Otomatik ajanlar verimsiz döngülere girebilir, başarısız eylemleri tekrarlayabilir veya basit bir kuralın yeterli olacağı durumlarda pahalı hizmetleri çağırabilir.

Bu sorunlar nadiren yalnızca satın alma ile çözülür. Düşünceli mühendislik ve süreç tasarımı gerektirirler.

Kurumlar şunları yapıp yapamayacaklarını incelemelidir:

• Yalnızca görevle ilgili bilgiyi göndermek
• Daha önce üretilmiş sonuçları yeniden kullanmak
• Net yanıt biçimleri ve uygun uzunluk sınırları tanımlamak
• Otomatik yeniden denemeler ve araç kullanımına sınırlar koymak
• Basit istekleri daha basit modellerden geçirmek
• Yalnızca gerçekten karmaşık vakaları üst düzey modellere iletmek
• Kötü bir süreci yapay zeka eklemeden önce yeniden tasarlamak

Bu son nokta önemlidir. Verimsiz bir süreci otomatikleştirmek onu mutlaka verimli yapmaz. Verimsizliğin daha hızlı ve daha büyük ölçekte işlemesini sağlayabilir.

Yönetişimi deneyimin içine inşa edin

Politikalar ve eğitim önemli olmaya devam edecek, ancak kurumsal yapay zekayı yönetmenin tüm yükünü taşıyamazlar.

Çoğu çalışandan her modelin, komutun (prompt) veya otomatik iş akışının ekonomisini anlaması makul bir beklenti değildir. Bir yapay zeka hizmetini her kullanışlarında bir politika belgesine bakmak zorunda da olmamalılar.

İyi yönetişim bu nedenle teknolojinin kendisine inşa edilmelidir.

Kurumun yapay zeka ortamı; onaylanmış erişim kurallarını uygulamalı, olağandışı tüketimi tespit etmeli, makul sınırları dayatmalı ve istekleri en uygun hizmete yönlendirebilmelidir. Ek maliyet veya riskin haklı olduğu durumlarda, onay veya üst düzeye iletme için net bir yol bulunmalıdır.

Bu, sorumlu tüketimi kullanıcı için doğal hale getirir. Ayrıca yönetişimin, bir fatura geldiğinde haftalar sonra değil, sonucu etkileyebileceği anda, yani faaliyet anında gerçekleşmesini sağlar.

Aynı ilke rehberlik için de geçerlidir. Bir kişi yapay zeka iş akışı oluştururken sunulan bağlamsal öneriler, aylar önce tamamlanmış tek seferlik bir eğitim programından daha faydalı olacaktır.

Yapay zeka ekonomisini kalıcı bir yetenek olarak ele alın

Yapay zeka talebini yönetmek geçici bir maliyet düşürme çalışmasına, yalnızca teknoloji ekibinin liderliğinde bir çalışmaya dönüşmemelidir.

Teknoloji, finans, satın alma, risk ve iş liderliği arasında sürekli bir iş birliği gerektirir. Bu işlevler birlikte talebi öngörmeli, tüketimi izlemeli, tedarikçileri değerlendirmeli ve harcamayı ölçülebilir sonuçlarla ilişkilendirmelidir.

Bu yetenek, pazarın sürekli değişeceğini de kabul etmelidir. Bugün en iyi performansı veren model yarın en iyi değeri sunmayabilir. Yeni tedarikçiler, ticari yapılar ve dağıtım seçenekleri ortaya çıkmaya devam edecektir.

Tek bir modele veya sağlayıcıya uzun vadeli bağımlılık bu nedenle hem finansal hem de operasyonel risk oluşturabilir. Kurumlar; iş yüklerini taşıma, kaynak kararlarını yeniden değerlendirme ve satın alınan, kurum içinde geliştirilen ile barındırılan yetenekleri birleştirme olanağını korumalıdır.

Satın almak mı yoksa geliştirmek mi sorusu artık fazla dar kalmaktadır. Daha iyi soru şudur: her iş yükü için doğru hizmet, model ve işletme yaklaşımları karışımını nasıl oluşturacağınız — ve sürekli nasıl ayarlayacağınız.

Maliyet kontrolü hırsı desteklemelidir

Yükselen yapay zeka harcamasının, teknoloji anlamlı sonuçlar üretmeye başladığı bir anda kurumları aşırı temkinli hale getirmesi riski vardır.

Bu bir hata olurdu.

Güçlü finansal yönetim inovasyonun düşmanı değildir. Sürdürülebilir inovasyonu mümkün kılan şeydir. Bir kurum israfı tespit edebildiğinde, kaynakları en büyük potansiyele sahip iş akışlarına yönlendirebilir. Bir sonucun maliyetini anladığında, nerede ölçekleneceği konusunda bilinçli seçimler yapabilir. Yönetişim ortama gömüldüğünde, çalışanlar net ve pratik sınırlar içinde inovasyon yapabilir.

Yapay zekada başarılı olacak kurumlar mutlaka en çok harcayanlar — ya da en sert kesintiler yapanlar olmayacaktır. Yapay zekanın nerede kendine özgü değer yarattığını anlayan ve tüketimini buna göre yönlendirebilenler olacaktır.

Kurumsal yapay zekanın bir sonraki aşaması bu nedenle modellere erişimden çok yönetim disipliniyle şekillenecek.

Soru artık yalnızca “Ne kadar yapay zeka kullanıyoruz?” değil. “Onunla ne başarıyoruz — ve bu sonuç yatırımı değer mi?” sorusudur.