Ethereum kurucu ortağı Vitalik Buterin, Pazartesi günü X (eski Twitter) üzerinden, sözde "ajanik" AI sistemlerine yönelik mevcut aceleye karşı çıktı. Bu sistemler, minimum insan denetimi ile otonom olarak hareket etmek üzere inşa edilen modellere işaret ediyor. Ayrıca, insanların yönlendirmesine ve düzenlemesine izin veren modellerin önemini vurguladı. "Andrej Karpathy'nin yakın zamanda söylediği bir şeyi yineleyerek, birçok AI gelişiminin mümkün olduğunca 'ajanik' olmaya çalışmasının beni hayal kırıklığına uğrattığını belirtmek istiyorum," diye yazdı Buterin.
İnsan girdileri için artan yolların çıktıları iyileştirmekle kalmayıp, "güvenlik açısından daha iyi" olduğunu da ekledi. Ethereum kurucu ortağı, "sıfırdan yaratmak için sadece olanlardan çok daha iyi düzenleme işlevselliğine sahip açık ağırlıklı AI modelleri hakkında çok daha heyecanlıyım" dedi ve hatta orta vadeli bir dilek çizdi: "bana şeyin oluşturulurken gösterildiği ve her bir parçası hakkında nasıl hissettiğimi gerçek zamanlı olarak algılayan ve buna göre ayarlamalar yapan bazı şık BCI şeyleri."
Gönderi, Andrej Karpathy'nin son zamanlarda yaptığı açıklamalarla doğrudan örtüşmektedir. Karpathy, yüksek profilli bir anahtar teslimi konuşma ve sonrasındaki röportajlarda, büyük dil modellerinin hatasız otonom ajanlar gibi ele alınmaması gerektiğine dikkat çekmiş ve geliştiricileri AI'yi "bir tasma üzerinde tutmaya" teşvik etmiştir. İnsan gözetiminin, dikkatli yönlendirmelerin ve kademeli gelişimin hala hayati öneme sahip olduğunu vurgulamıştır.
Bu Şu Anda Neden Önemli
Buterin'in yorumları, büyük laboratuvarların açıklık ve kullanıcı kontrolü konusundaki tutumlarını kamuya açık bir şekilde değiştirmeye başladığı bir dönemde geliyor. Ağustos ayının başlarında, OpenAI, dış geliştiriciler tarafından indirilebilen, incelenebilen ve ince ayar yapılabilen açık ağırlık modelleri olan gpt-oss-120b ve gpt-oss-20b'yi yayınlayarak birçok kişiyi şaşırttı; bu adım bazıları tarafından güçlü AI araçlarının demokratikleştirilmesi yönünde bir adım olarak çerçevelendi. Destekçiler, açık ağırlıkların özel, insan merkezli iş akışlarını oluşturmayı ve modelleri güvenlik sorunları için incelemeyi kolaylaştırdığını söylerken; eleştirmenler, yaygın olarak dağıtılan güçlü modellerin kötüye kullanımı riskleri konusunda uyarıyorlar.
Buterin'in "düzenleme işlevselliği" için kamuya açık tercihi, sektörde ortaya çıkan bir konuya işaret ediyor: Modellerden bitmiş iş üretmelerini istemek ve ardından geri çekilmek yerine, birçok araştırmacı, insanların müdahale edebileceği, çıktıyı gerçek zamanlı olarak budayabileceği, düzeltebileceği veya yönlendirebileceği arayüzler istiyor. Destekleyenler, bunun yanılsamaları azalttığını, insanı niyetin kontrolünde sağlam tuttuğunu ve insan zevkleri ile güvenlik kısıtlamalarına daha iyi uyan eserler ürettiğini savunuyor. Karpathy'nin son konuşması da benzer şekilde daha sıkı insan döngüsü iş akışlarının gerekliliğini vurguladı.)
BCI + Üretken AI
Buterin'in içerik üretilirken duygusal tepkileri algılayan bir beyin-bilgisayar arayüzü (BCI) konusundaki sıradan arzusu saf bir hayal değil. Bu yıl, Neuralink'ten Synchron'a ve bir dizi girişime kadar, insan denemeleri, daha az invaziv implantlar ve dikkat ile duygusal durumları gerçek zamanlı olarak çözümlemeyi amaçlayan EEG tabanlı giyilebilir cihazlarla ilgili somut BCI ilerlemeleri yaşandı.
EEG tabanlı duygu tespiti ve "duygusal hesaplama" üzerine akademik çalışmalar da gelişti ve bir kullanıcının bir şeyi sevip sevmediğini ya da tarafsız olduğunu işaret eden cihazların giderek daha olası hale geldiğini öne sürüyor. Yine de, tamamen güvenilir, tüketici düzeyinde duygusal kodlama, özellikle de invazif olmayan yöntemlerle, hala aktif bir araştırma zorluğu olarak kalmaktadır.
Tartışmanın Ortaya Çıkardıkları
Bir araya getirildiğinde, sinyaller AI gelişiminde iki eşzamanlı akıma işaret ediyor. Bir akım, karmaşık görevleri az ya da hiç insan gözetimi olmadan yürütebilen daha ajansal sistemlere doğru itiyor; diğer akım ise Karpathy gibi figürler tarafından dile getirilen ve şimdi Buterin tarafından da yankı bulan, insanları model davranışıyla yakından bağlayan araçlar için savunuyor, ister daha iyi düzenleme UI'ları, ister insan döngüsünde doğrulama ya da hatta nöroteknoloji geri bildirimi aracılığıyla.
Sektör gözlemcilerine göre, bu yaklaşımlar arasındaki denge ürün tasarımını, düzenlemeleri ve kamu güvenini şekillendirecek. Açık ağırlıklı sürümler, bağımsız ekiplerin insan merkezli düzenleme katmanları ile deneme yapmasını kolaylaştırıyor, ancak aynı zamanda güçlü modellerin dağılımını da genişletiyor; bu da düzenleyicilerin ve güvenlik araştırmacılarının kötüye kullanımın artabileceği konusunda endişelenmesine neden oluyor.
Bu arada, BCI ve duygu tespiti kademeli ilerlemeler kaydettikçe, yeni arayüzler gerçekten de yaratıcıların modelleri yazılı istemlerden çok daha zengin sinyallerle "dürtmesine" olanak tanıyabilir; bu da özel hayat, rıza ve içsel durumların nasıl ölçüldüğü ve saklandığı konusunda yeni soruları gündeme getiriyor. Vitalik Buterin'in tweet'i, daha çok bir teknik taslak değil, bir değer ifadesidir: daha iyi çıktılar ve daha güvenli sistemler, insan tercihinin karmaşık ve incelikli sinyallerini AI iş akışlarının merkezine koymaktan gelir.
O geleceğin bugün düzenlenebilir açık modellerle mi, yoksa yarın beyin-tabanlı arayüzlerle mi geleceği önemli değil, konuşma şimdiden saf özerklikten daha zengin insan-Yapay Zeka işbirliğine doğru kayıyor. Buterin'in kendi ifadesiyle, bir şeyin doğuşuna tanıklık etmek ve onu yönlendirebilmektense, tamamen kontrolü bırakmayı tercih ediyor.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Vitalik Buterin, Ajansif AI'yi Eleştiriyor, Düzenlenebilir Modeller ve Nöroteknoloji Entegrasyonu Çağrısında Bulunuyor
Ethereum kurucu ortağı Vitalik Buterin, Pazartesi günü X (eski Twitter) üzerinden, sözde "ajanik" AI sistemlerine yönelik mevcut aceleye karşı çıktı. Bu sistemler, minimum insan denetimi ile otonom olarak hareket etmek üzere inşa edilen modellere işaret ediyor. Ayrıca, insanların yönlendirmesine ve düzenlemesine izin veren modellerin önemini vurguladı. "Andrej Karpathy'nin yakın zamanda söylediği bir şeyi yineleyerek, birçok AI gelişiminin mümkün olduğunca 'ajanik' olmaya çalışmasının beni hayal kırıklığına uğrattığını belirtmek istiyorum," diye yazdı Buterin.
İnsan girdileri için artan yolların çıktıları iyileştirmekle kalmayıp, "güvenlik açısından daha iyi" olduğunu da ekledi. Ethereum kurucu ortağı, "sıfırdan yaratmak için sadece olanlardan çok daha iyi düzenleme işlevselliğine sahip açık ağırlıklı AI modelleri hakkında çok daha heyecanlıyım" dedi ve hatta orta vadeli bir dilek çizdi: "bana şeyin oluşturulurken gösterildiği ve her bir parçası hakkında nasıl hissettiğimi gerçek zamanlı olarak algılayan ve buna göre ayarlamalar yapan bazı şık BCI şeyleri."
Gönderi, Andrej Karpathy'nin son zamanlarda yaptığı açıklamalarla doğrudan örtüşmektedir. Karpathy, yüksek profilli bir anahtar teslimi konuşma ve sonrasındaki röportajlarda, büyük dil modellerinin hatasız otonom ajanlar gibi ele alınmaması gerektiğine dikkat çekmiş ve geliştiricileri AI'yi "bir tasma üzerinde tutmaya" teşvik etmiştir. İnsan gözetiminin, dikkatli yönlendirmelerin ve kademeli gelişimin hala hayati öneme sahip olduğunu vurgulamıştır.
Bu Şu Anda Neden Önemli
Buterin'in yorumları, büyük laboratuvarların açıklık ve kullanıcı kontrolü konusundaki tutumlarını kamuya açık bir şekilde değiştirmeye başladığı bir dönemde geliyor. Ağustos ayının başlarında, OpenAI, dış geliştiriciler tarafından indirilebilen, incelenebilen ve ince ayar yapılabilen açık ağırlık modelleri olan gpt-oss-120b ve gpt-oss-20b'yi yayınlayarak birçok kişiyi şaşırttı; bu adım bazıları tarafından güçlü AI araçlarının demokratikleştirilmesi yönünde bir adım olarak çerçevelendi. Destekçiler, açık ağırlıkların özel, insan merkezli iş akışlarını oluşturmayı ve modelleri güvenlik sorunları için incelemeyi kolaylaştırdığını söylerken; eleştirmenler, yaygın olarak dağıtılan güçlü modellerin kötüye kullanımı riskleri konusunda uyarıyorlar.
Buterin'in "düzenleme işlevselliği" için kamuya açık tercihi, sektörde ortaya çıkan bir konuya işaret ediyor: Modellerden bitmiş iş üretmelerini istemek ve ardından geri çekilmek yerine, birçok araştırmacı, insanların müdahale edebileceği, çıktıyı gerçek zamanlı olarak budayabileceği, düzeltebileceği veya yönlendirebileceği arayüzler istiyor. Destekleyenler, bunun yanılsamaları azalttığını, insanı niyetin kontrolünde sağlam tuttuğunu ve insan zevkleri ile güvenlik kısıtlamalarına daha iyi uyan eserler ürettiğini savunuyor. Karpathy'nin son konuşması da benzer şekilde daha sıkı insan döngüsü iş akışlarının gerekliliğini vurguladı.)
BCI + Üretken AI
Buterin'in içerik üretilirken duygusal tepkileri algılayan bir beyin-bilgisayar arayüzü (BCI) konusundaki sıradan arzusu saf bir hayal değil. Bu yıl, Neuralink'ten Synchron'a ve bir dizi girişime kadar, insan denemeleri, daha az invaziv implantlar ve dikkat ile duygusal durumları gerçek zamanlı olarak çözümlemeyi amaçlayan EEG tabanlı giyilebilir cihazlarla ilgili somut BCI ilerlemeleri yaşandı.
EEG tabanlı duygu tespiti ve "duygusal hesaplama" üzerine akademik çalışmalar da gelişti ve bir kullanıcının bir şeyi sevip sevmediğini ya da tarafsız olduğunu işaret eden cihazların giderek daha olası hale geldiğini öne sürüyor. Yine de, tamamen güvenilir, tüketici düzeyinde duygusal kodlama, özellikle de invazif olmayan yöntemlerle, hala aktif bir araştırma zorluğu olarak kalmaktadır.
Tartışmanın Ortaya Çıkardıkları
Bir araya getirildiğinde, sinyaller AI gelişiminde iki eşzamanlı akıma işaret ediyor. Bir akım, karmaşık görevleri az ya da hiç insan gözetimi olmadan yürütebilen daha ajansal sistemlere doğru itiyor; diğer akım ise Karpathy gibi figürler tarafından dile getirilen ve şimdi Buterin tarafından da yankı bulan, insanları model davranışıyla yakından bağlayan araçlar için savunuyor, ister daha iyi düzenleme UI'ları, ister insan döngüsünde doğrulama ya da hatta nöroteknoloji geri bildirimi aracılığıyla.
Sektör gözlemcilerine göre, bu yaklaşımlar arasındaki denge ürün tasarımını, düzenlemeleri ve kamu güvenini şekillendirecek. Açık ağırlıklı sürümler, bağımsız ekiplerin insan merkezli düzenleme katmanları ile deneme yapmasını kolaylaştırıyor, ancak aynı zamanda güçlü modellerin dağılımını da genişletiyor; bu da düzenleyicilerin ve güvenlik araştırmacılarının kötüye kullanımın artabileceği konusunda endişelenmesine neden oluyor.
Bu arada, BCI ve duygu tespiti kademeli ilerlemeler kaydettikçe, yeni arayüzler gerçekten de yaratıcıların modelleri yazılı istemlerden çok daha zengin sinyallerle "dürtmesine" olanak tanıyabilir; bu da özel hayat, rıza ve içsel durumların nasıl ölçüldüğü ve saklandığı konusunda yeni soruları gündeme getiriyor. Vitalik Buterin'in tweet'i, daha çok bir teknik taslak değil, bir değer ifadesidir: daha iyi çıktılar ve daha güvenli sistemler, insan tercihinin karmaşık ve incelikli sinyallerini AI iş akışlarının merkezine koymaktan gelir.
O geleceğin bugün düzenlenebilir açık modellerle mi, yoksa yarın beyin-tabanlı arayüzlerle mi geleceği önemli değil, konuşma şimdiden saf özerklikten daha zengin insan-Yapay Zeka işbirliğine doğru kayıyor. Buterin'in kendi ifadesiyle, bir şeyin doğuşuna tanıklık etmek ve onu yönlendirebilmektense, tamamen kontrolü bırakmayı tercih ediyor.