Sınırlandırılmış Öz-Gelişim
Sistemin kendi kodunu iyileştirmesi — ve bunun nerede durduğu.
monografi KISIM VIIDOI 10.5281/zenodo.21894382CC BY 4.0
01Problem tanımı§7.1.1▾
Üretim ortamında çalışan bir sistem, zamanla iki yönde bozulur: dış dünya değişir (sağlayıcılar, kaynak sistemler, müfredat) ve kullanım örüntüleri kendi sorunlarını üretir (beklenmedik talep biçimleri, kalite düşüşleri, verimsizlikler). Klasik yanıt, periyodik bakım ve sürüm döngüleridir. Bu çalışmadaki sistem, buna ek olarak bir öz-gözlem ve öz-iyileştirme döngüsü işletmektedir: sistem kendi davranışını gözlemler, sorun adayları üretir, insan onayına sunar ve onaylananları geri alınabilir biçimde uygular.
monografi §7.1.1
02Beş aşama§7.1.2▾
01Aşama Tetikleyici Aktör Çıktı Güvenlik kapısı (1) Gözlem Zamanlanmış tarama; kullanım ve hata verisi Gözlemci bileşen Sorun adayı Kategori rotasyonu; gürültü filtresi (2) Teşhis Sorun adayı Kodfarkındalıklı analiz Kök neden hipotezi + öneri Yenilik denetimi (zaten var mı?) (3) Onay Öneri kuyruğu İnsan (yönetici) Onay / ret / arşiv İnsan onayı olmadan uygulama yok (4) Uygulama Onaylı öneri Geliştirme ajanı Kod veya ya
04denetim izi (5) Doğrulama Değişiklik Test paketi + canlı gözlem Uygulandı / geri alındı Regresyon testleri
monografi §7.1.2
03Döngünün kritik özelliği§7.1.3▾
011. Döngü bir ölçüt kümesi üzerinde değil, gerçek öğrencilerin kullandığı üretim sisteminde çalışır.
022. Her uygulama adımı insan onayına bağlıdır.
033. Her değişiklik geri alınabilir ve iz bırakır. Bu üçü, alanın açık problemine — “bir ajan, insan yeniden tasarımı olmadan gelişebilir mi?” — bir çözüm iddiası değildir. Tam tersine, o soruya bilinçli bir hayır yanıtıdır: yüksek riskli bir alanda öz-gelişim, insan denetimi altında sınırlandırılmalıdır. Katkı, otonomi değil güvenli ara formdur.
monografi §7.1.3
04Neyi gözlemler§7.2.1▾
Gözlemci bileşen, sistemin kendi işleyişine dair sinyalleri tarar: konuşma kalitesi göstergeleri, kullanıcı memnuniyetsizlik ifadeleri, yönlendirme dengesi, simge verimliliği, veritabanı sağlığı, kullanılmayan kod yolları ve halüsinasyon şüphesi doğuran ifade örüntüleri.
monografi §7.2.1
05Kategori rotasyonu§7.2.2▾
Gözlem, her gün her şeye bakmaz.
Kategoriler haftalık bir rotasyona bağlanmıştır: her gün farklı bir odak alanı taranır. Bu tasarımın iki gerekçesi vardır.
Maliyet: tam kapsamlı günlük tarama gereksiz yere pahalıdır. Dikkat kalitesi: dar odaklı tarama, geniş taramadan daha derin bulgular üretir — insan denetiminde de aynı ilke geçerlidir.
monografi §7.2.2
06Kod-farkındalıklı analiz§7.2.3▾
Gözlemcinin ürettiği önerilerin en yaygın hata biçimi, zaten var olan bir şeyi önermektir. Bu, üretim sistemlerinde öz-iyileştirme mekanizmalarının en sık karşılaşılan gürültü kaynağıdır ve insan onay kapasitesini boşa harcar. Sistemde bu, gözlemcinin kod tabanına erişimiyle çözülmüştür: analiz sırasında ilgili kod bölümleri incelenir ve öneri, mevcut uygulamanın farkında olarak üretilir.
monografi §7.2.3
07Yenilik denetimi§7.2.4▾
Ek bir kapı olarak, öneri kayda geçmeden önce bir yenilik denetiminden geçer: önerilen şeyin kod tabanında halihazırda bulunup bulunmadığı aranır.
Eşiği aşan sayıda eşleşme bulunursa öneri kaydedilmez, arşive alınır. Bu denetim, insan onay kuyruğunu temiz tutar.
Onay kuyruğunun temizliği, döngünün sürdürülebilirliği için belirleyicidir: gürültülü bir kuyruk, yöneticinin dikkatini kaybetmesine ve gerçek önerilerin gözden kaçmasına yol açar.
monografi §7.2.4
08Katmanlı güvenlik§7.3.1▾
Sistemin kendi kodunu değiştirebilmesi, doğası gereği yüksek riskli bir yetenektir. Bu nedenle yetenek, birden çok bağımsız kapıyla sınırlandırılmıştır: Kapı İşlev Bayrak kontrolü Yazma yeteneği varsayılan olarak kapalıdır; açılması ayrı bir karardır Kimlik kısıtı Yalnızca tanımlı yönetici tetikleyebilir Yol beyaz listesi Yalnızca izin verilen dosya yolları değiştirilebilir; yapılandırma sırları ve depo dışı yollar kesin olarak yasaktır Boyut sınırı Tek seferde değiştirilebilecek satır sayısı sınırlıdır Yedekleme Değişiklik öncesi mevcut durumun kopyası alınır Derleme kapısı Değişiklik sonrası sözdizimi doğrulaması yapılır Otomatik geri alma Doğrulama başarısızsa değişiklik otomatik olarak geri alınır Denetim izi Her değişiklik sürüm kontrolüne kaydedilir Manuel yeniden başlatma Değişiklik otomatik olarak devreye girmez
monografi §7.3.1
09Tasarım felsefesi§7.3.2▾
Bu kapıların tasarımında ortak bir ilke vardır: her kapı bağımsız olarak yeterli olmalıdır.
Bir kapının atlanması, diğerlerinin devre dışı kalması anlamına gelmez. Bu, güvenlik mühendisliğindeki katmanlı savunma ilkesinin uygulamasıdır (§8.1).
İkinci ilke, başarısızlığın güvenli yönde olmasıdır: bir belirsizlik durumunda sistem değişikliği uygular değil, geri alır.
monografi §7.3.2
10Otomatik yeniden başlatmanın olmaması§7.3.3▾
Dikkat çekici bir tasarım kararı, değişikliğin otomatik olarak devreye alınmamasıdır.
Teknik olarak mümkün olmasına rağmen bilinçli olarak yapılmamıştır. Gerekçe: üretim sisteminde çalışan öğrenciler vardır.
Bir değişikliğin canlıya alınması, insan zamanlaması gerektiren bir karardır — gece yarısı otomatik devreye giren bir değişiklik, sabah öğrenci etkileşimini etkileyebilir. Hız burada bir erdem değildir.
monografi §7.3.3
11Olay–müdahale döngüsü§7.4.2▾
01Bir hata ortaya çıktığında zincir şöyle işler: hata izleme sistemi olayı yakalar
03teşhis aynı ortamda yapılır
05insan onayıyla uygulanır. Klasik zincirle karşılaştırma anlamlıdır: Aşama Klasik Bu topoloji Tespit İzleme veya kullanıcı bildirimi Otomatik olay yakalama Teşhis Ayrı ortamda yeniden üretim Aynı ortamda doğrudan inceleme Onay Ekip/sprint süreci Kurumun kendi kararı Uygulama Sürüm döngüsü Kapılı ve geri alınabilir müdahale Toplam süre Günler–haftalar Saatler mertebesi
monografi §7.4.2
12Bu neyin sonucu§7.4.3▾
Bu hız, teknik bir marifet değil, §3.5’teki geliştirici-işletmeci birliğinin altyapı düzeyindeki karşılığıdır.
Arada satıcı, sözleşme, öncelik müzakeresi veya ürün yol haritası bulunmamaktadır. Kurumun sahibi, kurumun yazılımına aynı gün müdahale edebilmektedir.
Üçüncü-parti bir üründe aynı döngü yapısal olarak mümkün değildir: kurum sorunu bildirir, sağlayıcı önceliklendirir, düzeltme sonraki sürüme girer. Gecikme, sağlayıcının yetersizliğinden değil topolojiden kaynaklanır.
monografi §7.4.3
13Riskin dürüst beyanı§7.4.4▾
Bu topoloji, hızın yanında risk de taşır.
Üretim sistemine hızlı müdahale, hızlı hata anlamına da gelebilir. Bu risk, §7.3’teki kapılarla ve KISIM IX’daki test altyapısıyla yönetilmektedir; ancak sıfırlanmamıştır.
Asıl mühendislik başarısının hız değil hızın güvenli kılınması olduğu bu bölümün temel mesajıdır. Kapısız hız, mühendislik değil pervasızlıktır.
monografi §7.4.4
14Zamanlanmış iş envanteri§7.5.1▾
Sistem, insan etkileşimi olmadan çalışan bir dizi zamanlanmış işe sahiptir: İş İşlev Ritim Yedekleme Veri güvenliği Günlük Kurumsal veri senkronizasyonu Kaynak sistemlerden güncel veri Günlük Gözlem ve öneri döngüsü Öz-iyileştirme (§7.2) Günlük, kategori rotasyonlu Model sağlığı denetimi Sağlayıcı erişilebilirliği (§4.3.4) Günlük Kalite raporlaması Konuşma kalitesi analizi Haftalık Yavaş yanıt taraması Gecikme sapması tespiti Saatlik Felaket kurtarma tatbikatı Geri yükleme doğrulaması Periyodik Finansal ve operasyonel raporlama Yönetsel özet Periyodik
monografi §7.5.1
15Gece döngüsünün pedagojik anlamı§7.5.2▾
01Bu işler teknik bakım gibi görünse de pedagojik bir işlev taşır: sabah brifinginin hazır olması. Zincir şöyledir: gün boyunca üretilen etkileşim verisi gece işlenir
02ustalık kestirimleri güncellenir
03sinyaller değerlendirilir
05sabah öğretmen brifingi hazır olur. Yani gece döngüsü, §6.3.4’teki zamanlama gereksiniminin altyapısıdır. Analiz gündüz yapılsaydı, ya öğretmen bekleyecek ya brifing eksik olacaktı
monografi §7.5.2
16“Ertesi gün daha iyi” ifadesinin doğru okunuşu§7.5.3▾
Sistemin her gün bir öncekinden daha iyi çalıştığı gözlemi, iki ayrı mekanizmanın bileşimidir ve karıştırılmamalıdır: (1) Öğrenci düzeyinde keskinleşme.
01Yeni veri, ustalık kestirimlerini ve bağlamı zenginleştirir. Bu, her gün ve her öğrenci için gerçekleşir (§3.2). (2) Sistem düzeyinde iyileşme.
02Gözlem döngüsünün ürettiği ve insan onayından geçen değişiklikler. Bu, süreklidir ancak her gün gerçekleşmez ve her zaman ileri yönlü değildir — bazı değişiklikler geri alınır.
03İkisini birbirine karıştırmak, sistemin kendini otonom olarak geliştirdiği izlenimi verir ki bu yanlıştır. Doğru ifade: öğrenci modeli sürekli derinleşir; sistem davranışı insan onaylı adımlarla iyileşir.
monografi §7.5.3
17Dört vektör§7.6.1▾
Sistemin zaman içindeki iyileşmesi tek bir kaynaktan gelmez; dört bağımsız vektörün bileşimidir: Vektör Kaynak Kod değişikliği gerektirir mi (1) Sağlayıcı ilerlemesi Dış model ekosisteminin gelişmesi Hayır (yönlendirme yapılandırması yeterli) (2) Kanıt birikimi Uzunlamasına öğrenci verisinin büyümesi Hayır (3) Sinyal kalibrasyonu Doğruluk sicillerinin olgunlaşması (§3.3) Hayır (4) Sistem iyileştirmesi Öz-gelişim döngüsü (§7.1) Evet (insan onaylı) Bileşke etkinin doğrusal olmamasının nedeni budur: dört vektör eşzamanlı ve birbirinden bağımsız çalışır.
monografi §7.6.1
18Vektör (1) neden yalnızca bu mimaride çalışır§7.6.2▾
Sağlayıcı ilerlemesinin kod değişmeden içeri akması, sağlayıcı-bağımsız mimarinin doğrudan sonucudur (§4B.3.5). Tek modele kilitli bir sistemde bu kazanç ya hiç alınamaz ya da sağlayıcının ürün takvimine bağlı olarak gecikmeli alınır. Bu, mimari bir tercihin uzun vadeli getirisidir ve kurulum anında görünmez.
monografi §7.6.2
19Ölçülmüş imzalar§7.6.3▾
Bileşik gelişme, soyut bir iddia olarak bırakılmamalıdır.
Sistemde ölçülmüş iki imza: (1) Kapsam artarken maliyetin düşmesi. Pedagojik içerik havuzu birkaç kat genişletilirken, mesaj başına ortalama simge maliyeti belirgin biçimde azaltılmıştır (§5.8.2).
Bu, yalnızca “daha çok özellik” eklenmediğinin, aynı zamanda verimliliğin arttığının göstergesidir. (2) Erişim kalitesinin artması. Yeniden sıralama katmanının eklenmesiyle ilk-sonuç isabet oranı ölçülebilir biçimde yükselmiştir (§4.4.2).
monografi §7.6.3
20Neyin iddia edilmediği§7.6.4▾
Bu bölümde belirli yüzde tahminleri kullanılmamaktadır.
“Bugün %80, gelecek yıl %95” biçimindeki ifadeler ölçülmediği sürece metni zayıflatır. Doğru ifade şudur: sistem sabit bir kalite düzeyinde değil, ölçülebilir bir iyileşme yörüngesindedir.
Yörüngenin varlığı ölçülmüş imzalarla desteklenir; belirli bir gelecek değerin öngörüsü yapılmamaktadır.
monografi §7.6.4
21Neyin iddia edildiği§7.7.1▾
Üretim ortamında çalışan, insan onaylı ve geri alınabilir bir öz-iyileştirme döngüsü kurulmuştur.
Döngü, gözlem–teşhis–onay–uygulama–doğrulama aşamalarından oluşur ve her aşamada tanımlı güvenlik kapıları vardır.
Döngünün ürettiği iyileşme, ölçülmüş imzalarla desteklenmektedir.
monografi §7.7.1
22Neyin iddia edilmediği§7.7.2▾
Otonom evrim iddia edilmemektedir. Sistem, insan onayı olmadan kendini değiştirmez.
Alanın açık problemine çözüm iddia edilmemektedir. “İnsan yeniden tasarımı olmadan gelişme” sorusu açıktır; bu çalışma ona bilinçli olarak kısıtlı bir yanıt vermektedir.
Her değişikliğin iyileştirme olduğu iddia edilmemektedir. Bazı değişiklikler geri alınmıştır; ertelenen ve reddedilen öneriler vardır (§9.8).
Bu biçimin tek doğru biçim olduğu iddia edilmemektedir. Daha otonom yaklaşımlar farklı bağlamlarda uygun olabilir; yüksek riskli eğitim bağlamında bu kısıtlar tercih edilmiştir.
monografi §7.7.2
23Özgünlük iddiasının doğru ifadesi§7.7.3▾
Öz-iyileştiren ajan yaklaşımları literatürde mevcuttur. Bu çalışmanın özgünlük iddiası mekanizmada değil bağlamdadır: laboratuvar veya ölçüt ortamında değil, gerçek öğrencilerin kullandığı bir kurumsal üretim sisteminde, insan onaylı ve denetlenebilir biçimde işleyen uzun soluklu bir döngü. Doğru ifade: “Bu biçimiyle — kurumsal, insan-onaylı, üretimde ve uzunlamasına — belgelenmiş bir örneğine rastlanmamıştır.”
monografi §7.7.3
24Onay yükü sınırı§7.7.4▾
§3.4.4’te belirtilen sınır burada da geçerlidir: insan onayı, döngünün darboğazıdır.
Onay kuyruğu kurumun kapasitesini aşarsa döngü tıkanır. Bu, sistemin ölçeklenmesinde dikkate alınması gereken yapısal bir kısıttır ve otomasyon ile denetim arasındaki gerilimin somut biçimidir.
Mevcut çözüm — gürültü filtreleme, yenilik denetimi ve kategori rotasyonu — kuyruğu yönetilebilir tutmayı hedefler; ancak sınırsız ölçeklenebilir değildir.
monografi §7.7.4
25Neden ayrı bir tehdit modeli gerekir§8.1.1▾
Genel amaçlı bir yapay zekâ uygulamasının risk profili ile küçüklerle etkileşen, hassas kişisel veri işleyen ve kurumsal kararları etkileyen bir eğitim sisteminin risk profili aynı değildir. Bu bölüm, ikinciye özgü tehditleri tanımlar ve mimarideki karşılıklarını gösterir.
monografi §8.1.1
