# Şirketi geleceğe hazırlamak: Esnek yapay zeka mimarisi neden önemlidir?

> Bugünün son teknoloji yaklaşımı yarının eski sistemi ve yarının teknik borcu haline gelebilir. Çözüm, en ileri teknolojiyi seçmek değil, modüler ve uyarlanabilir mimarileri seçmektir. RAG (Retrieval-Augmented Generation) bu paradigmayı örneklemektedir: AWS, orkestrasyonu, AI modellerini ve vektör depolarını bağımsız olarak değiştirilebilir bileşenlere ayırır. Bugünün yatırımlarının yarın da değer üretmesini sağlayan, modelden bağımsızlıktan API önceliğine kadar 5 tasarım ilkesini keşfedin.

Source: https://www.electe.net/tr/post/futuro-a-prova-di-azienda-perche-larchitettura-ai-flessibile-e-importante

Site guide: https://www.electe.net/tr/llms.txt

Bugün son teknoloji olan bir yaklaşım, hızla yarının eski (legacy) sistemi haline gelebilir. Yapay zeka tabanlı SaaS çözümlerine yatırım yapan kuruluşlar kritik bir soruyla karşı karşıyadır: Bugün hayata geçirdiğimiz sistemlerin yarının [teknik borcu](https://it.wikipedia.org/wiki/Debito_tecnico) haline gelmemesini nasıl garanti edebiliriz?

Cevap, o anki en gelişmiş teknolojiyi seçmekte değil, ortaya çıkan YZ yetenekleriyle birlikte gelişebilen esnek ve uyarlanabilir mimariler üzerine inşa edilmiş platformları seçmekte yatmaktadır. Bu makale, Retrieval-Augmented Generation'a (RAG) odaklanarak YZ alanında modüler mimarilerin farklı uygulamalarını analiz etmekte ve farklı mimari yaklaşımları karşılaştırmaktadır.

## Katı Yapay Zeka Uygulamalarının Gizli Riski

Birçok kuruluş, öncelikle mevcut yeteneklere dayalı yapay zeka çözümlerini seçmekte, anlık işlevselliğe odaklanmakta ve uzun vadeli uyarlanabilirliği belirleyen temel mimariyi ihmal etmektedir. Bu yaklaşım birkaç önemli risk yaratmaktadır:

### Teknolojik eskime

Yapay zeka inovasyonunun hızı artmaya devam etmekte ve temel gelişmeler her zamankinden daha kısa zaman dilimlerinde ortaya çıkmaktadır. Yapay zekaya yönelik belirli yaklaşımlar etrafında inşa edilen katı sistemler, genellikle bu gelişmeleri dahil etmekte zorlanmakta ve daha yeni çözümlere göre kapasite boşluklarına neden olmaktadır.

### İş gereksinimlerinin değiştirilmesi

Teknoloji durağan kalsa bile (ki kalmayacaktır), iş gereksinimleri gelişecektir. Kuruluşlar genellikle yapay zeka için ilk uygulama sırasında öngörülmeyen değerli kullanım durumlarını keşfederler. Esnek olmayan platformlar genellikle orijinal tasarım parametrelerinin ötesine geçmekte zorlanır.

### Entegrasyon ekosisteminin evrimi

YZ çözümünü çevreleyen uygulamalar, veri kaynakları ve sistemler yükseltmeler, değiştirmeler ve yeni eklemeler yoluyla zaman içinde değişecektir. Katı YZ platformları genellikle entegrasyon darboğazları haline gelir, pahalı geçici çözümler gerektirir veya diğer teknoloji yatırımlarının değerini sınırlar.

### Mevzuat ve uyum değişiklikleri

YZ yönetişim gereksinimleri, açıklanabilirlik, adalet değerlendirmesi ve dokümantasyon için gereklilikler getiren yeni düzenlemelerle birlikte küresel olarak gelişmeye devam ediyor. Mimari esnekliğe sahip olmayan sistemler genellikle bu değişen uyumluluk gereksinimlerine uyum sağlamakta zorlanmaktadır.

## RAG Paradigması: Modüler Mimari Üzerine Bir Vaka Çalışması

Retrieval-Augmented Generation (RAG), yapay zeka sistemlerinin tasarlanma ve uygulanma biçiminde devrim yaratan modüler bir mimarinin mükemmel bir örneğini temsil etmektedir. AWS bunu 'bir yanıt oluşturmadan önce eğitim veri kaynaklarının dışında yetkili bir bilgi tabanına başvuran büyük bir dil modelinin (LLM) çıktısını optimize etme süreci' olarak tanımlamaktadır.

### AWS RAG Uygulaması

AWS, modülerlik ve esneklik ilkelerini örnekleyen bir RAG bulut mimarisi geliştirdi. [Yunjie Chen ve Henry Jia'nın AWS Public Sector blogunda](https://aws.amazon.com/blogs/publicsector/use-modular-architecture-for-flexible-and-extensible-rag-based-generative-ai-solutions/) belirttiği gibi, bu mimari dört ayrı modülden oluşur:

1. **Kullanıcı arayüzü modülü**: Amazon API Gateway aracılığıyla son kullanıcılarla etkileşime girer
2. **Orkestrasyon modülü**: Veri toplama, prompting ve yanıt üretiminin sorunsuz bir şekilde akmasını sağlamak için çeşitli kaynaklarla etkileşime girer
3. **Embedding modülü**: Çeşitli foundation modellere erişim sağlar
4. **Vector store modülü**: Embedding yapılmış verilerin depolanmasını ve vektör aramalarının yürütülmesini yönetir

İşlem akışı iki ana yol izler:

**Veri yükleme için:**

1. Amazon S3 bucket'larında depolanan belgeler, bölme ve chunking için AWS Lambda fonksiyonları tarafından işlenir
2. Metin segmentleri, vektörlere dönüştürülmek üzere embedding modeline gönderilir
3. Embedding'ler seçilen vektör veritabanında depolanır ve indekslenir

**Yanıt üretimi için:**

1. Kullanıcı bir prompt gönderir
2. Prompt bir embedding modeline iletilir
3. Model, depolanan belgelerde anlamsal arama yapmak için prompt'u bir vektöre dönüştürür
4. En alakalı sonuçlar LLM'ye geri gönderilir
5. LLM, en benzer sonuçları ve başlangıçtaki prompt'ları dikkate alarak yanıtı üretir
6. Üretilen yanıt kullanıcıya iletilir

### AWS RAG Mimarisinin Avantajları

AWS, bu modüler mimarinin birkaç önemli avantajını vurgulamaktadır:

- **Modülerlik ve ölçeklenebilirlik**: "RAG mimarisinin modüler yapısı ve infrastructure as code (IaC) kullanımı, gerektiğinde AWS hizmetlerinin eklenmesini veya kaldırılmasını kolaylaştırır. AWS'nin yönetilen hizmetleriyle bu mimari, önceden provisioning yapmaya gerek kalmadan artan trafiği ve veri taleplerini otomatik ve verimli bir şekilde yönetmeye yardımcı olur."
- **Esneklik ve çeviklik**: "Modüler RAG mimarisi, bulut mimarisi çerçevesini tamamen yeniden yapılandırmaya gerek kalmadan yeni teknolojilerin ve hizmetlerin daha hızlı ve kolay bir şekilde uygulanmasını sağlar. Bu, değişen pazar ve müşteri ihtiyaçlarına yanıt verirken daha çevik olunmasını sağlar."
- **Gelecekteki eğilimlere uyum**: "Modüler mimari, orkestrasyonu, üretken yapay zeka modellerini ve vector store'u birbirinden ayırır. Bu üç modülün her biri, tek tek ele alındığında, aktif araştırma ve sürekli iyileştirme alanlarıdır."

### Vektör Teknolojisi: RAG Mimarisinin Kalbi

RAG mimarisinin önemli bir unsuru da vektör veritabanıdır. AWS, "üretici modellerin bunlarla etkileşime girebilmesi için tüm verilerin (metin, ses, görüntü veya video dahil) gömülü vektörlere dönüştürülmesi gerektiğinden, vektör veritabanlarının üretici yapay zeka tabanlı çözümlerde önemli bir rol oynadığına" dikkat çekiyor.

AWS, çeşitli vektör veritabanı seçenekleri sunarak bu esnekliği destekler:

- Vektör işlevselliği eklenmiş OpenSearch ve PostgreSQL gibi geleneksel veritabanları
- ChromaDB ve Milvus gibi özel açık kaynaklı vektör veritabanları
- Amazon Kendra gibi AWS'ye özgü çözümler

Bu seçenekler arasındaki seçim "yeni verilerin ne sıklıkla eklendiği, dakikada kaç sorgu gönderildiği ve gönderilen sorguların büyük ölçüde benzer olup olmadığı gibi soruların yanıtlarına göre yönlendirilebilir."

## Modelle Bütünleşik Yapay Zeka Mimarileri: Nöral Yaklaşım

AWS RAG mimarisi çeşitli bulut hizmetlerinde dağıtılmış bir sistem olarak uygulanırken, diğer yapay zeka sistemleri modülerlik ilkelerinin birleşik bir sinir mimarisi içinde var olduğu daha entegre bir yaklaşım benimsemektedir.

### İleri Düzey UA Asistanları Örneği

En son LLM modellerine dayalı olanlar gibi gelişmiş yapay zeka asistanları, RAG ile benzer ilkeleri kullanır, ancak bazı önemli mimari farklılıklar vardır:

1. **Nöral entegrasyon**: İşlevsel bileşenler (sorgu anlama, bilgi erişimi, yanıt üretimi) ayrı hizmetlere dağıtılmak yerine nöral mimari içinde entegre edilmiştir.
2. **Kavramsal modülerlik**: Modülerlik kavramsal ve işlevsel düzeyde mevcuttur, ancak mutlaka fiziksel olarak ayrı ve değiştirilebilir bileşenler şeklinde değildir.
3. **Birleşik optimizasyon**: Tüm işleme pipeline'ı, son kullanıcı tarafından yapılandırılabilir olmak yerine eğitim ve geliştirme aşamasında optimize edilir.
4. **Derin retrieval-generation entegrasyonu**: Erişim sistemi, katı bir sıralı süreç olmak yerine, bileşenler arasında çift yönlü geri bildirimlerle üretim sürecine daha derinlemesine entegre edilmiştir.

Bu uygulama farklılıklarına rağmen, bu sistemler RAG'nin temel ilkelerini paylaşmaktadır: farklı işleme aşamalarını (en azından kavramsal olarak) ayıran bir mimari oluşturarak doğruluğu artırmak ve halüsinasyonları azaltmak için bir dil modelini ilgili harici bilgilerle zenginleştirmek.

## Esnek IA Mimarileri için Tasarım İlkeleri

Özel yaklaşım ne olursa olsun, YZ mimarilerinde esnekliği teşvik eden evrensel tasarım ilkeleri vardır:

### Modüler tasarım

Gerçekten esnek yapay zeka platformları, bileşenlerin tüm sistemde değişiklik gerektirmeden bağımsız olarak yükseltilebildiği veya değiştirilebildiği modüler mimariler kullanır. Hem AWS hem de entegre yapay zeka sistemleri yaklaşımı, farklı uygulamalarla da olsa bu ilkeyi takip etmektedir.

### Model-Agnostik Yaklaşım

Esnek platformlar, iş mantığı ile temel YZ uygulaması arasındaki ayrımı koruyarak, teknoloji geliştikçe temel YZ bileşenlerinin değiştirilmesine olanak tanır. Bu, özellikle modellerin kolayca değiştirilebildiği AWS mimarisinde belirgindir.

### API Öncelikli tasarım

En uyarlanabilir yapay zeka sistemleri, yalnızca önceden tanımlanmış kullanıcı arayüzlerine odaklanmak yerine, kapsamlı API'ler aracılığıyla programatik erişilebilirliğe öncelik verir. AWS mimarisinde her bileşen iyi tanımlanmış arayüzler sunarak entegrasyonu ve güncellemeyi kolaylaştırır.

### Sürekli Dağıtım Altyapısı

Esnek mimariler, hizmet kesintileri olmadan sık güncellemeler için tasarlanmış bir altyapı gerektirir. Bu ilke, farklı mekanizmalarla da olsa hem AWS mimarisi gibi dağıtık sistemlerde hem de entegre yapay zeka modellerinde uygulanmaktadır.

### Genişletilebilirlik Çerçevesi

Gerçekten esnek platformlar, satıcı müdahalesi gerektirmeden müşteriye özel uzantılar için çerçeveler sağlar. Bu durum en çok dağıtık sistemlerde belirgindir, ancak gömülü yapay zeka modelleri de özelleştirme biçimleri sunabilir.

## Uyumluluk-Kararlılık Dengesi

Mimari esnekliği vurgularken, iş sistemlerinin aynı zamanda istikrar ve güvenilirlik gerektirdiğini de kabul etmek önemlidir. Görünüşte çelişkili olan bu taleplerin dengelenmesi şunları gerektirir:

### İstikrarlı Arayüz Sözleşmeleri

Dahili uygulamalar sık sık değişebilirken, resmi sürüm oluşturma ve destek politikaları ile harici arayüzler için sıkı kararlılık garantilerinin sürdürülmesi çok önemlidir.

### Aşamalı İyileştirme

Yeni işlevler mümkün olduğunca değiştirme yerine ekleme değişiklikleri yoluyla tanıtılmalı ve kuruluşların yenilikleri kendi hızlarında benimsemelerine olanak tanınmalıdır.

### Kontrollü Güncelleme Temposu

Yükseltmeler, sürekli yenilik ile operasyonel istikrarı dengeleyen öngörülebilir ve kontrollü bir program izlemelidir.

## Gelecekte Yakınsama: Hibrit Mimarilere Doğru

YZ mimarilerinin geleceği, AWS RAG tarafından örneklenen dağıtılmış yaklaşım ile gelişmiş YZ modellerinin entegre yaklaşımı arasında bir yakınsama görecektir. Önemli eğilimler şimdiden ortaya çıkmaya başladı:

### Multimodal Yakınsama

Yapay zeka, tek modlu işlemenin ötesine geçerek modlar arasında (metin, görüntü, ses, video) sorunsuz çalışan birleşik modellere doğru hızla ilerliyor.

### Uzmanlaşmış Modellerin Çoğalması

Genel modeller gelişmeye devam ederken, farklı modelleri düzenleyebilen ve entegre edebilen mimariler gerektiren belirli alanlar ve görevler için özel modellerin geliştirilmesinde de bir artış var.

### Continuum Edge-Cloud

Yapay zeka işleme, performans, maliyet ve veri gereksinimlerinin daha etkili bir şekilde dengelenebildiği dağıtılmış modellerle buluttan uca kadar bir süreklilik içinde giderek daha fazla dağıtılmaktadır.

### Düzenleyici Uyumlaştırma

Küresel yapay zeka düzenlemeleri olgunlaştıkça, potansiyel olarak sertifikasyon çerçeveleri eşliğinde, yargı bölgeleri arasında gereksinimlerin daha fazla uyumlaştırılmasını bekliyoruz.

## Sonuç: Geleceğin Zorunluluğu

Yapay zeka gibi hızla gelişen bir alanda, bir platformun en önemli özelliği mevcut yetenekleri değil, gelecekteki gelişmelere uyum sağlama yeteneğidir. Öncelikle bugünün yeteneklerine dayalı çözümler seçen kuruluşlar genellikle kendilerini yarının olanaklarını sınırlarken bulurlar.

Kuruluşlar, modüler tasarım, modelden bağımsız yaklaşımlar, API öncelikli düşünme, sürekli dağıtım altyapısı ve sağlam genişletilebilirlik gibi ilkeler aracılığıyla mimari esnekliğe öncelik vererek, teknolojik gelişmeler ve iş ihtiyaçları ile gelişen yapay zeka yetenekleri oluşturabilir.

AWS'nin belirttiği gibi, 'üretken yapay zekanın evrim hızı eşi benzeri görülmemiş' ve yalnızca gerçekten modüler ve esnek mimariler, bugünün yatırımlarının yarının hızla gelişen teknoloji ortamında değer üretmeye devam etmesini sağlayabilir.

Belki de gelecek, sadece neyin geleceğini en iyi tahmin edebilenlere değil, ortaya çıkan her şeye uyum sağlayabilecek sistemler inşa edenlere aittir.