Ana Sayfa / FermatAI / Akademik Temel / Öz-Gelişim

Sınırlandırılmış Öz-Gelişim

Sistemin kendi kodunu iyileştirmesi — ve bunun nerede durduğu.

monografi KISIM VIIDOI 10.5281/zenodo.21894382CC BY 4.0

0alt bölüm

Bu sayfada

Kendini geliştiren ama sınırlı

Öz-gelişim bir serbestlik değil, sınırları önceden yazılmış bir protokoldür.

Problem tanımı

§7.1.1 — §7.1.3 · 3 bölüm

01Genel bakış§7.1.1

Üretim ortamında çalışan bir sistem, zamanla iki yönde bozulur: dış dünya değişir (sağlayıcılar, kaynak sistemler, müfredat) ve kullanım örüntüleri kendi sorunlarını üretir (beklenmedik talep biçimleri, kalite düşüşleri, verimsizlikler). Klasik yanıt, periyodik bakım ve sürüm döngüleridir. Bu çalışmadaki sistem, buna ek olarak bir öz-gözlem ve öz-iyileştirme döngüsü işletmektedir: sistem kendi davranışını gözlemler, sorun adayları üretir, insan onayına sunar ve onaylananları geri alınabilir biçimde uygular.

monografi §7.1.1

02Beş aşama§7.1.2

(2) Teşhis	Sorun adayı	Kod- farkındalıklı analiz	Kök neden hipotezi + öneri	Yenilik denetimi (zaten var mı?)
(3) Onay	Öneri kuyruğu	İnsan (yönetici)	Onay / ret / arşiv	İnsan onayı olmadan uygulama yok
(4) Uygulama	Onaylı öneri	Geliştirme ajanı	Kod veya yapılandırma değişikliği	Yedek → derleme kapısı →otomatik geri alma → denetim izi
(5) Doğrulama	Değişiklik	Test paketi + canlı gözlem	Uygulandı / geri alındı	Regresyon testleri

monografi §7.1.2

03Döngünün kritik özelliği§7.1.3

1. Döngü bir ölçüt kümesi üzerinde değil, gerçek öğrencilerin kullandığı üretim sisteminde çalışır.

2. Her uygulama adımı insan onayına bağlıdır.

3. Her değişiklik geri alınabilir ve iz bırakır. Bu üçü, alanın açık problemine — “bir ajan, insan yeniden tasarımı olmadan gelişebilir mi?” — bir çözüm iddiası değildir. Tam tersine, o soruya bilinçli bir hayır yanıtıdır: yüksek riskli bir alanda öz-gelişim, insan denetimi altında sınırlandırılmalıdır. Katkı, otonomi değil güvenli ara formdur.

monografi §7.1.3

Neyi gözlemler

§7.2.1 — §7.2.4 · 4 bölüm

04Genel bakış§7.2.1

Gözlemci bileşen, sistemin kendi işleyişine dair sinyalleri tarar: konuşma kalitesi göstergeleri, kullanıcı memnuniyetsizlik ifadeleri, yönlendirme dengesi, simge verimliliği, veritabanı sağlığı, kullanılmayan kod yolları ve halüsinasyon şüphesi doğuran ifade örüntüleri.

monografi §7.2.1

05Kategori rotasyonu§7.2.2

Gözlem, her gün her şeye bakmaz.

Kategoriler haftalık bir rotasyona bağlanmıştır: her gün farklı bir odak alanı taranır. Bu tasarımın iki gerekçesi vardır.

Maliyet: tam kapsamlı günlük tarama gereksiz yere pahalıdır. Dikkat kalitesi: dar odaklı tarama, geniş taramadan daha derin bulgular üretir — insan denetiminde de aynı ilke geçerlidir.

monografi §7.2.2

06Kod-farkındalıklı analiz§7.2.3

Gözlemcinin ürettiği önerilerin en yaygın hata biçimi, zaten var olan bir şeyi önermektir. Bu, üretim sistemlerinde öz-iyileştirme mekanizmalarının en sık karşılaşılan gürültü kaynağıdır ve insan onay kapasitesini boşa harcar. Sistemde bu, gözlemcinin kod tabanına erişimiyle çözülmüştür: analiz sırasında ilgili kod bölümleri incelenir ve öneri, mevcut uygulamanın farkında olarak üretilir.

monografi §7.2.3

07Yenilik denetimi§7.2.4

Ek bir kapı olarak, öneri kayda geçmeden önce bir yenilik denetiminden geçer: önerilen şeyin kod tabanında halihazırda bulunup bulunmadığı aranır.

Eşiği aşan sayıda eşleşme bulunursa öneri kaydedilmez, arşive alınır. Bu denetim, insan onay kuyruğunu temiz tutar.

Onay kuyruğunun temizliği, döngünün sürdürülebilirliği için belirleyicidir: gürültülü bir kuyruk, yöneticinin dikkatini kaybetmesine ve gerçek önerilerin gözden kaçmasına yol açar.

monografi §7.2.4

kapalı döngü · temsilî kayıt

kapalı döngü

▸ oneri.uret(sinirli_kapsam) ✓
▸ test.kos(once) ✓
▸ insan.onayla(zorunlu) ✓
▸ dagit(git_uzerinden) ✓
▸ izle(sentry) ✓

Katmanlı güvenlik

§7.3.1 — §7.3.3 · 3 bölüm

08Genel bakış§7.3.1

Bayrak kontrolü	Yazma yeteneği açılması ayrı bir varsayılan olarak karardır kapalıdır;
Kimlik kısıtı	Yalnızca tanımlı yönetici tetikleyebilir
Yol beyaz listesi	Yalnızca izin verilen değiştirilebilir; yapılandırma dışı yollar kesin dosya yolları sırları olarak yasaktır ve depo
Boyut sınırı	Tek seferde değiştirilebilecek sınırlıdır satır sayısı
Yedekleme	Değişiklik öncesi alınır mevcut durumun kopyası
Derleme kapısı	Değişiklik sonrası yapılır sözdizimi doğrulaması
Otomatik geri alma	Doğrulama başarısızsa olarak geri alınır değişiklik otomatik
Denetim izi	Her değişiklik sürüm kontrolüne kaydedilir
Manuel yeniden başlatma	Değişiklik otomatik olarak devreye girmez

monografi §7.3.1

09Tasarım felsefesi§7.3.2

Bu kapıların tasarımında ortak bir ilke vardır: her kapı bağımsız olarak yeterli olmalıdır.

Bir kapının atlanması, diğerlerinin devre dışı kalması anlamına gelmez. Bu, güvenlik mühendisliğindeki katmanlı savunma ilkesinin uygulamasıdır (§8.1).

İkinci ilke, başarısızlığın güvenli yönde olmasıdır: bir belirsizlik durumunda sistem değişikliği uygular değil, geri alır.

monografi §7.3.2

10Otomatik yeniden başlatmanın olmaması§7.3.3

Dikkat çekici bir tasarım kararı, değişikliğin otomatik olarak devreye alınmamasıdır.

Teknik olarak mümkün olmasına rağmen bilinçli olarak yapılmamıştır. Gerekçe: üretim sisteminde çalışan öğrenciler vardır.

Bir değişikliğin canlıya alınması, insan zamanlaması gerektiren bir karardır — gece yarısı otomatik devreye giren bir değişiklik, sabah öğrenci etkileşimini etkileyebilir. Hız burada bir erdem değildir.

monografi §7.3.3

Olay–müdahale döngüsü

§7.4.2 — §7.4.4 · 3 bölüm

bölüm doluluğu

11Genel bakış§7.4.2

Klasik zincirle karşılaştırma	anlamlıdır:	—
Aşama	Klasik	Bu topoloji
Tespit	İzleme veya kullanıcı bildirimi	Otomatik olay yakalama
Teşhis	Ayrı ortamda yeniden üretim	Aynı ortamda doğrudan inceleme
Onay	Ekip/sprint süreci	Kurumun kendi kararı
Uygulama	Sürüm döngüsü	Kapılı ve geri alınabilir müdahale
Toplam süre	Günler–haftalar	Saatler mertebesi

monografi §7.4.2

12Bu neyin sonucu§7.4.3

Bu hız, teknik bir marifet değil, §3.5’teki geliştirici-işletmeci birliğinin altyapı düzeyindeki karşılığıdır.

Arada satıcı, sözleşme, öncelik müzakeresi veya ürün yol haritası bulunmamaktadır. Kurumun sahibi, kurumun yazılımına aynı gün müdahale edebilmektedir.

Üçüncü-parti bir üründe aynı döngü yapısal olarak mümkün değildir: kurum sorunu bildirir, sağlayıcı önceliklendirir, düzeltme sonraki sürüme girer. Gecikme, sağlayıcının yetersizliğinden değil topolojiden kaynaklanır.

monografi §7.4.3

13Riskin dürüst beyanı§7.4.4

Bu topoloji, hızın yanında risk de taşır.

Üretim sistemine hızlı müdahale, hızlı hata anlamına da gelebilir. Bu risk, §7.3’teki kapılarla ve KISIM IX’daki test altyapısıyla yönetilmektedir; ancak sıfırlanmamıştır.

Asıl mühendislik başarısının hız değil hızın güvenli kılınması olduğu bu bölümün temel mesajıdır. Kapısız hız, mühendislik değil pervasızlıktır.

monografi §7.4.4

sinyalden karara

sinyal

karar

Zamanlanmış iş envanteri

§7.5.1 — §7.5.2 · 2 bölüm

14Genel bakış§7.5.1

İş	İşlev	Ritim
Yedekleme	Veri güvenliği	Günlük
Kurumsal veri senkronizasyonu	Kaynak sistemlerden güncel veri	Günlük
Gözlem ve öneri döngüsü	Öz-iyileştirme (§7.2)	Günlük, kategori rotasyonlu
Model sağlığı denetimi	Sağlayıcı erişilebilirliği (§4.3.4)	Günlük
Kalite raporlaması	Konuşma kalitesi analizi	Haftalık
Yavaş yanıt taraması	Gecikme sapması tespiti	Saatlik
Felaket kurtarma tatbikatı	Geri yükleme doğrulaması	Periyodik
Finansal ve operasyonel raporlama	Yönetsel özet	Periyodik

monografi §7.5.1

15Gece döngüsünün pedagojik anlamı§7.5.2

Bu işler teknik bakım gibi görünse de pedagojik bir işlev taşır: sabah brifinginin hazır olması. Zincir şöyledir: gün boyunca üretilen etkileşim verisi gece işlenir

ustalık kestirimleri güncellenir

sinyaller değerlendirilir

öncelikler hesaplanır

sabah öğretmen brifingi hazır olur. Yani gece döngüsü, §6.3.4’teki zamanlama gereksiniminin altyapısıdır. Analiz gündüz yapılsaydı, ya öğretmen bekleyecek ya brifing eksik olacaktı

monografi §7.5.2

Dört vektör

§7.6.1 — §7.6.4 · 4 bölüm

16Genel bakış§7.6.1

verisinin büyümesi (3) Sinyal kalibrasyonu Doğruluk sicillerinin Hayır olgunlaşması (§3.3) (4) Sistem iyileştirmesi Öz-gelişim döngüsü (§7.1) Evet (insan onaylı) Bileşke etkinin doğrusal olmamasının nedeni budur: dört vektör eşzamanlı ve birbirinden bağımsız çalışır.

Vektör	Kaynak	Kod değişikliği gerektirir mi
(1) Sağlayıcı ilerlemesi	Dış model ekosisteminin gelişmesi	Hayır (yönlendirme yapılandırması yeterli)
(2) Kanıt birikimi	Uzunlamasına öğrenci	Hayır

monografi §7.6.1

17Vektör (1) neden yalnızca bu mimaride çalışır§7.6.2

Sağlayıcı ilerlemesinin kod değişmeden içeri akması, sağlayıcı-bağımsız mimarinin doğrudan sonucudur (§4B.3.5). Tek modele kilitli bir sistemde bu kazanç ya hiç alınamaz ya da sağlayıcının ürün takvimine bağlı olarak gecikmeli alınır. Bu, mimari bir tercihin uzun vadeli getirisidir ve kurulum anında görünmez.

monografi §7.6.2

18Ölçülmüş imzalar§7.6.3

Bileşik gelişme, soyut bir iddia olarak bırakılmamalıdır.

Sistemde ölçülmüş iki imza: (1) Kapsam artarken maliyetin düşmesi. Pedagojik içerik havuzu birkaç kat genişletilirken, mesaj başına ortalama simge maliyeti belirgin biçimde azaltılmıştır (§5.8.2).

Bu, yalnızca “daha çok özellik” eklenmediğinin, aynı zamanda verimliliğin arttığının göstergesidir. (2) Erişim kalitesinin artması. Yeniden sıralama katmanının eklenmesiyle ilk-sonuç isabet oranı ölçülebilir biçimde yükselmiştir (§4.4.2).

monografi §7.6.3

19Neyin iddia edilmediği§7.6.4

Bu bölümde belirli yüzde tahminleri kullanılmamaktadır.

“Bugün %80, gelecek yıl %95” biçimindeki ifadeler ölçülmediği sürece metni zayıflatır. Doğru ifade şudur: sistem sabit bir kalite düzeyinde değil, ölçülebilir bir iyileşme yörüngesindedir.

Yörüngenin varlığı ölçülmüş imzalarla desteklenir; belirli bir gelecek değerin öngörüsü yapılmamaktadır.

monografi §7.6.4

Neyin iddia edildiği

§7.7.1 — §8.1.1 · 5 bölüm

20Genel bakış§7.7.1

Üretim ortamında çalışan, insan onaylı ve geri alınabilir bir öz-iyileştirme döngüsü kurulmuştur.

Döngü, gözlem–teşhis–onay–uygulama–doğrulama aşamalarından oluşur ve her aşamada tanımlı güvenlik kapıları vardır.

Döngünün ürettiği iyileşme, ölçülmüş imzalarla desteklenmektedir.

monografi §7.7.1

21Neyin iddia edilmediği§7.7.2

Otonom evrim iddia edilmemektedir. Sistem, insan onayı olmadan kendini değiştirmez.

Alanın açık problemine çözüm iddia edilmemektedir. “İnsan yeniden tasarımı olmadan gelişme” sorusu açıktır; bu çalışma ona bilinçli olarak kısıtlı bir yanıt vermektedir.

Her değişikliğin iyileştirme olduğu iddia edilmemektedir. Bazı değişiklikler geri alınmıştır; ertelenen ve reddedilen öneriler vardır (§9.8).

Bu biçimin tek doğru biçim olduğu iddia edilmemektedir. Daha otonom yaklaşımlar farklı bağlamlarda uygun olabilir; yüksek riskli eğitim bağlamında bu kısıtlar tercih edilmiştir.

monografi §7.7.2

22Özgünlük iddiasının doğru ifadesi§7.7.3

Öz-iyileştiren ajan yaklaşımları literatürde mevcuttur. Bu çalışmanın özgünlük iddiası mekanizmada değil bağlamdadır: laboratuvar veya ölçüt ortamında değil, gerçek öğrencilerin kullandığı bir kurumsal üretim sisteminde, insan onaylı ve denetlenebilir biçimde işleyen uzun soluklu bir döngü. Doğru ifade: “Bu biçimiyle — kurumsal, insan-onaylı, üretimde ve uzunlamasına — belgelenmiş bir örneğine rastlanmamıştır.”

monografi §7.7.3

23Onay yükü sınırı§7.7.4

§3.4.4’te belirtilen sınır burada da geçerlidir: insan onayı, döngünün darboğazıdır.

Onay kuyruğu kurumun kapasitesini aşarsa döngü tıkanır. Bu, sistemin ölçeklenmesinde dikkate alınması gereken yapısal bir kısıttır ve otomasyon ile denetim arasındaki gerilimin somut biçimidir.

Mevcut çözüm — gürültü filtreleme, yenilik denetimi ve kategori rotasyonu — kuyruğu yönetilebilir tutmayı hedefler; ancak sınırsız ölçeklenebilir değildir.

monografi §7.7.4

24Neden ayrı bir tehdit modeli gerekir§8.1.1

Genel amaçlı bir yapay zekâ uygulamasının risk profili ile küçüklerle etkileşen, hassas kişisel veri işleyen ve kurumsal kararları etkileyen bir eğitim sisteminin risk profili aynı değildir. Bu bölüm, ikinciye özgü tehditleri tanımlar ve mimarideki karşılıklarını gösterir.

monografi §8.1.1

§7.1.1Problem tanımı§7.1.2Beş aşama§7.1.3Döngünün kritik özelliği§7.2.1Neyi gözlemler§7.2.2Kategori rotasyonu§7.2.3Kod-farkındalıklı analiz§7.2.4Yenilik denetimi§7.3.1Katmanlı güvenlik§7.3.2Tasarım felsefesi§7.3.3Otomatik yeniden başlatmanın olmaması§7.4.2Olay–müdahale döngüsü§7.4.3Bu neyin sonucu§7.4.4Riskin dürüst beyanı§7.5.1Zamanlanmış iş envanteri§7.5.2Gece döngüsünün pedagojik anlamı§7.6.1Dört vektör§7.6.2Vektör (1) neden yalnızca bu mimaride…§7.6.3Ölçülmüş imzalar§7.6.4Neyin iddia edilmediği§7.7.1Neyin iddia edildiği§7.7.2Neyin iddia edilmediği§7.7.3Özgünlük iddiasının doğru ifadesi§7.7.4Onay yükü sınırı§8.1.1Neden ayrı bir tehdit modeli gerekir§7.1.1Problem tanımı§7.1.2Beş aşama§7.1.3Döngünün kritik özelliği§7.2.1Neyi gözlemler§7.2.2Kategori rotasyonu§7.2.3Kod-farkındalıklı analiz§7.2.4Yenilik denetimi§7.3.1Katmanlı güvenlik§7.3.2Tasarım felsefesi§7.3.3Otomatik yeniden başlatmanın olmaması§7.4.2Olay–müdahale döngüsü§7.4.3Bu neyin sonucu§7.4.4Riskin dürüst beyanı§7.5.1Zamanlanmış iş envanteri§7.5.2Gece döngüsünün pedagojik anlamı§7.6.1Dört vektör§7.6.2Vektör (1) neden yalnızca bu mimaride…§7.6.3Ölçülmüş imzalar§7.6.4Neyin iddia edilmediği§7.7.1Neyin iddia edildiği§7.7.2Neyin iddia edilmediği§7.7.3Özgünlük iddiasının doğru ifadesi§7.7.4Onay yükü sınırı§8.1.1Neden ayrı bir tehdit modeli gerekir

Devamı

İlgili segmentler

Güvenlik ve yönetişim

çevir ↺

Öğrenci verisi nasıl korunur, kim neyi görür, KVKK yükümlülükleri mimariye nasıl gömülür.

Sayfayı aç →

Değerlendirme

çevir ↺

İddia türleri, mühendislik değerlendirmeleri, sinyal kalitesi ve pedagojik değerlendirme tasarımı.

Sayfayı aç →

Referans mimari

çevir ↺

Niyet çözümlemeden ajan eylem katmanına, kurumsal sistemlerle arayüz-bağımsız entegrasyondan dayanıklılığa.

Sayfayı aç →

Kaynak

Bu sayfa, kurumun kendi sistemini belgeleyen açık erişimli araştırma monografisinin KISIM VII bölümünden aktarılmıştır. Metin yazarın kendi ifadeleriyle verilmiştir.

Monografinin tamamı → Akademik temel dizini