AI’lar bizi almaya mı çalışıyor? Görünüşe göre, yapay zeka ve teknoloji alanında çalışan birçok kişi, özellikle Silikon Vadisi’nde böyle düşünüyor. Açık bir mektupta, altı aylık bir araştırmanın dondurulmasını istiyorlar. Ancak eleştirmenler şimdi tüm bunların saçmalık olduğunu ve her şeyden önce dikkat dağıtıcı bir manevra olduğunu söylüyor. Suçlamalar ne durumda?
video dökümü
(Not: Yukarıdaki videoyu izleyemeyen veya izleyemeyenler için bonus içeriktir. Videonun parça bilgisi transkriptte yansıtılmamaktadır.)
Bakın bu, genel olarak yapay zeka veya teknoloji ile çalışan binlerce kişi tarafından imzalanmış açık bir mektup. Diğerlerinin yanı sıra, Apple kurucu ortağı Steve Wozniak, Elon Musk ve görüntü oluşturucu Stable Diffusion’ın yaratıcılarından biri olan Emad Mustaque.
Evet ve gelişmiş yapay zekanın insanlığın yerini alma riski olduğunu söylüyor. Ve medeniyetimizin kontrolünü kaybedebileceğimizi. Tamam aşkım…
Ve bundan kaçınmak için, aşağıda imzası bulunanlar yapay zeka araştırmalarına altı aylık bir ara verilmesini istiyor. Yine de araştırma topluluğundaki diğer insanlar, yapay zekayı dünyayı fethetmenin tamamen reklam saçmalığı olduğunu ve hiç kimse tam olarak hangi GPT-4 materyalinin eğitildiğini ve eğitim verilerinin içerdiğinin doğru olup olmadığını bilmediği için mevcut yapay zeka sorunlarını daha iyi ele almamız gerektiğini söylüyor. ct öğeleri deyin. En azından bana sormadılar.
Ve AI sistemlerinin zaten işleri yok ettiği gerçeğiyle nasıl başa çıkacağız? Öte yandan, diğerleri iyi günlere gittiğimizi söylüyor. Artık kimse çalışmak zorunda değil. Yakında makineler bizim yerimize yapacak.
Peki şimdi nasıl? ChatGPT, Midjourney ve Bing artık arkadaşlarımız mı yoksa veri korsanlığı bizi ayırmak mı istiyor? Daha yakından baktık. Bizi izlemeye devam edin.
Sevgili bilgisayar korsanları, sevgili internet kullanıcıları, hoş geldiniz…
Peki, buradaki açık mektup son birkaç gündür oldukça heyecan yarattı. Teknoloji dünyasının yarısı, yapay zekanın gelişmesi nedeniyle insanlığın geleceği konusunda endişeli. Kulağa hiç iyi gelmiyor.
Özellikle, aşağıda imzası bulunanlar, GPT-4’ten daha güçlü yapay zeka araçlarının tüm geliştirmelerinin altı ay süreyle askıya alınmasını ve bu süre zarfında bu teknik gelişmeyle nasıl başa çıkacağımızı düşünmemizi talep ediyor. Gerekirse siyasetçiler de düzenleme yapsın.
Mektup, en şiddetli korku senaryolarını resmediyor, yani yerimize bir sürü makine geçiyor ve hatta medeniyetimizin kaybından söz ediliyor. Bu özel düşünce okulunun bir adı zaten var, yani “x-risk”, çünkü bu varoluşsal riskle ilgili. Kısacası, x-risk savunucuları, bir noktada akıllı sistemlerin kendilerini geliştirebilecekleri bir nokta olacağını ve ardından bir zeka patlaması olacağını, çünkü makinelerin insanlardan çok daha hızlı çalışabileceğini varsayarlar.
Yani tekerleğin icadından ilk bilgisayara kadar en az 4.000 yıl geçti ve yapay zekanın potansiyel patlaması ise ancak birkaç saat döngüsü sürebildi. Ve sonra evet, tekilliğe sahibiz, tabiri caizse insanlığın artık makine zekasına ulaşamayacağı bir noktaya.
Ancak asıl soru şu: Süper zeki bir yapay zeka mutlaka tehlikeli olmak zorunda mı? Bir gündemi ve kendini koruma içgüdüsü olmalı mı? Bu AI peygamberlerinin kendi alfa erkek egolarını makinelere yansıtabilmeleri mümkün mü? Makinelerin egosu ve testosteronu olmasa bile ve aslında mantıklı hareket etmeleri gerekiyor.
Pekala, bu tür açık mektuplarla her zaman içeriğe yakından bakmanız gerekir – bunu gerçekte kim imzalar? Ve az önce size Elon Musk’ın imzacıların ön saflarında önemli bir beygir olduğunu söyledim.
Ve aynı Elon Musk, 2015’te ChatGPT’nin arkasındaki şirket olan OpenAI’nin kurucu ortağı oldu. 2018’de onu tamamen devralmak istedi ama olmadı ve ardından şirketten tamamen ayrıldı. Dolayısıyla, mantıklı eylemleriyle tanınan Musk’ın yaralı bir gururla biraz mücadele ediyor olması tamamen mümkün.
Ve bir diğer imza sahibi, milyonlarca kopya satan kitaplarında sık sık dünyanın sonunun bir kısmını kehanet eden tarihçi Yaval Noah Harari. Bu, belki de markasının özü olarak bile tanımlanabilir. Öyleyse bu kıyamet düşüncelerinden para kazanın. Yani, tabiri caizse, doğrudan açık mektuptan yararlanıyor. Ve bu aynı zamanda, süper zeki ve süper tehlikeli AI tehlikesine dair bu konuşmanın nihayetinde AI yutturmacasını azaltmadığı, aksine onu daha da büyüttüğüne dair odada bulunan başka bir tez.
Ne de olsa, çoğu insan için böylesine güçlü bir yapay zeka ile çalışabilmek muhtemelen oldukça heyecan verici. “Woo, ChatGPT matematik problemlerimi çözüyor” gibi, ama tüm dünyayı fethedebilir. Bu yüzden onu mükemmel bir şekilde anlayabiliyorum, hala teknik olarak süper büyüleyici buluyorum ve ayrıca bilim kurgu yapay zekası da varsa.
Elbette, oynamak istiyorsun. Bu istediğim bir ürün. Elbette, OpenAI’nin, yani ChatGPT ve GPT-4’ü yapanların başkanı Sam Altman mektubu imzalamadı, ancak teknolojisinin ne kadar tehlikeli olduğundan bahsediyor. İlk başta bunun ters tepeceğini düşünebilirsiniz, ama sonunda oldukça zekice bir pazarlama, çünkü potansiyel bir Skynet icat ettiğimi iddia ettiğinizde, ah, benim orada icat ettiğim böyle bir sistemim var, demektense açıkça daha fazla dikkat çekersiniz. metin girişini tamamlar.
Ancak tüm imzacıların konunun kendisiyle hiç ilgilenmediğini söylemiyorum. Kesinlikle ciddi endişe duyanlar var. Ancak, gerçekte hangi tehlikelerin söz konusu olduğu konusunda bir ayrım yapmanız gerektiğini düşünüyorum. Yapay zekanın dünyayı ele geçirmesiyle ilgili bu varoluşsal tehlike, evet, muhtemelen henüz o noktaya gelmedik.
GPT-4 gibi büyük dil modellerinde, bazen AGI, yani Yapay Genel Zeka gibi bir şeyi flaş edebilir. Yani yapay genel zeka, bu bir insanın aynı entelektüel yetenekleridir. Ama bir de grup var, ben ona “Kill the Hype” diyeceğim, bunun zekayla hiçbir ilgisi olmadığını söylüyorlar, sadece stokastik papağanlar istatistiksel olarak bir sonraki kelimeyi hesaplıyorlar.
Örneğin, hesaplamalı dilbilimci Emily Bender. O, “stokastik papağan” terimini icat eden bilim adamlarından biridir. Ve evet, bu kadar büyük dil modelleri gerçekte böyle çalışır.
Sadece, sistemlerin eğitim materyalinden gerçekten toplayamayacakları yetenekler gösterdiğine dair her zaman söylentiler vardır. Örneğin, yazılım hiç resim görmemiş olsa bile size tek boynuzlu atın nasıl çizileceğini söyleyebilirler. Yani tek boynuzlu at bir yana, herhangi bir resim.
Bu kiraz toplama mı şimdi? Bu gerçek zeka mı? Ayrıca, araştırmanın bu tür büyük dil modellerinin dahili olarak ne yaptığının çoğunu henüz anlamadığı da çok açık bir şekilde belirtilmelidir. Bu arada, açıklamada konuyla ilgili birkaç kaynak ve belgeye bağlantı verdim. Ancak yine de bu tür dil modellerinin aptalca mı yoksa zekice mi olduğunu tartışmanın bir anlamı yok.
Önemli olan tek şey, ChatGPT, Midjourney ve Stable Diffusion gibi ürünlerin halihazırda milyonlarca insan tarafından kullanılıyor olması ve bugün dünyayı şimdiden değiştiriyor olmasıdır. Örneğin, illüstratörlere ödeme yapmak yerine, şirketler grafiklerini yazılımla üretebilir veya programcılar, aksi takdirde saatler veya günler sürecek ChatGPT programlarına saniyeler içinde sahip olabilir.
Bu, yapay zekanın zamandan tasarruf sağladığı ve sonuç olarak işlerin kaybedilebileceği anlamına gelir. Bu arada OpenAI, Pennsylvania Üniversitesi ile birlikte konuyla ilgili bir çalışma da yayınladı. Ve çalışma, büyük dil modellerinden kaç işin risk altında olduğunu göstermeyi amaçlıyor. Sonuç olarak, işlerin %19’unda görevlerin en az yarısı bir yapay zeka tarafından üstlenilebilir.
Ama tabii ki her şeye çok daha iyimser de bakabilirsiniz. Böylece AI, insanların aynı işi yapmak için daha az şey yapmasını sağlar. Yani daha az işten daha fazla katma değer. Ve bu herkes için daha fazla refah anlamına gelebilir. Evet, olabilir, değil mi?
Ancak son 30 yılda dijitalleşme, verimlilikte gözle görülür artışlar sağladı, ancak fiili işi yapanlardan daha fazla sermayeye sahip olanlar özellikle fayda sağladı.
Bu sol propaganda falan değil, oldukça objektif bir şekilde gösterilebilir. Bu Gini indeksi. 0 tamamen eşit dağılımı, 100 tamamen eşit olmayan dağılımı ifade eder. Son birkaç on yılda basitçe arttı. Burada Almanya ve ABD için çizelgeleri görebilirsiniz.
Bu nedenle, gelecekteki bazı “AI’lar hepimizi öldürecek” senaryolarını ele almak yerine bugüne daha iyi bakmalıyız. Bu arada, bu aynı zamanda AI’nın açık mektubunun bir okuması. Mevcut, gerçek AI sorunlarından dikkati dağıtmak için tasarlanmış bu kadar kötü bir dünyanın sonu senaryosu var mı?
Dediğim gibi, düşünecek daha çok şey var. Yani sadece potansiyel olarak tehlike altında olan eserler hakkında değil, aynı zamanda AI şirketlerinin ürünlerini resimler, metinler, kitaplar gibi insan yapımı eserlerle besleyerek yazarlara ödeme yapmadan çok para kazanması hakkında da.
Ya da örneğin, görüntüler temelde yalnızca mevcut görüntülerin remikslerinden ibaret olduğunda gerçekte ne olduğu hakkında bile çünkü artık pahalı fotoğraf prodüksiyonları yapmaya değmez, çünkü kolayca süper profesyonel görünümlü fotoğraflar oluşturabilirsiniz.
Ama sonra bir noktada, yeni hiçbir şey ortaya çıkmayacak mı? Öyleyse AI’ların eski şeyleri tekrar tekrar karıştırmasına izin verelim mi? Yani kültür esasen şimdi durdu mu? Evet, peki ya artık kimse gerçek resimlerden sahteleri ayırt edemezken gerçek ne olacak?
Ve insanları tam olarak manipüle etmek için kullanılabilecek kişiselleştirilmiş sahte haberler olacak mı? Bunlar tartışmamız gereken şeyler. Ve sonra belki daha sonra bir noktada yapay zekanın dünya hakimiyetinde. VEYA? Bunu nasıl görüyorsunuz? MERHABA!
c’t 3003, c’t YouTube kanalıdır. c’t 3003’teki videolar bağımsız içeriktir ve c’t dergisi yazılarından bağımsızdır. Editörler Jan-Keno Janssen ve Lukas Rumpler ile video yapımcıları Şahin Erengil ve Pascal Schewe her hafta bir video yayınlıyor.
(jj)
Haberin Sonu
video dökümü
(Not: Yukarıdaki videoyu izleyemeyen veya izleyemeyenler için bonus içeriktir. Videonun parça bilgisi transkriptte yansıtılmamaktadır.)
Bakın bu, genel olarak yapay zeka veya teknoloji ile çalışan binlerce kişi tarafından imzalanmış açık bir mektup. Diğerlerinin yanı sıra, Apple kurucu ortağı Steve Wozniak, Elon Musk ve görüntü oluşturucu Stable Diffusion’ın yaratıcılarından biri olan Emad Mustaque.
Evet ve gelişmiş yapay zekanın insanlığın yerini alma riski olduğunu söylüyor. Ve medeniyetimizin kontrolünü kaybedebileceğimizi. Tamam aşkım…
Ve bundan kaçınmak için, aşağıda imzası bulunanlar yapay zeka araştırmalarına altı aylık bir ara verilmesini istiyor. Yine de araştırma topluluğundaki diğer insanlar, yapay zekayı dünyayı fethetmenin tamamen reklam saçmalığı olduğunu ve hiç kimse tam olarak hangi GPT-4 materyalinin eğitildiğini ve eğitim verilerinin içerdiğinin doğru olup olmadığını bilmediği için mevcut yapay zeka sorunlarını daha iyi ele almamız gerektiğini söylüyor. ct öğeleri deyin. En azından bana sormadılar.
Ve AI sistemlerinin zaten işleri yok ettiği gerçeğiyle nasıl başa çıkacağız? Öte yandan, diğerleri iyi günlere gittiğimizi söylüyor. Artık kimse çalışmak zorunda değil. Yakında makineler bizim yerimize yapacak.
Peki şimdi nasıl? ChatGPT, Midjourney ve Bing artık arkadaşlarımız mı yoksa veri korsanlığı bizi ayırmak mı istiyor? Daha yakından baktık. Bizi izlemeye devam edin.
Sevgili bilgisayar korsanları, sevgili internet kullanıcıları, hoş geldiniz…
Peki, buradaki açık mektup son birkaç gündür oldukça heyecan yarattı. Teknoloji dünyasının yarısı, yapay zekanın gelişmesi nedeniyle insanlığın geleceği konusunda endişeli. Kulağa hiç iyi gelmiyor.
Özellikle, aşağıda imzası bulunanlar, GPT-4’ten daha güçlü yapay zeka araçlarının tüm geliştirmelerinin altı ay süreyle askıya alınmasını ve bu süre zarfında bu teknik gelişmeyle nasıl başa çıkacağımızı düşünmemizi talep ediyor. Gerekirse siyasetçiler de düzenleme yapsın.
Mektup, en şiddetli korku senaryolarını resmediyor, yani yerimize bir sürü makine geçiyor ve hatta medeniyetimizin kaybından söz ediliyor. Bu özel düşünce okulunun bir adı zaten var, yani “x-risk”, çünkü bu varoluşsal riskle ilgili. Kısacası, x-risk savunucuları, bir noktada akıllı sistemlerin kendilerini geliştirebilecekleri bir nokta olacağını ve ardından bir zeka patlaması olacağını, çünkü makinelerin insanlardan çok daha hızlı çalışabileceğini varsayarlar.
Yani tekerleğin icadından ilk bilgisayara kadar en az 4.000 yıl geçti ve yapay zekanın potansiyel patlaması ise ancak birkaç saat döngüsü sürebildi. Ve sonra evet, tekilliğe sahibiz, tabiri caizse insanlığın artık makine zekasına ulaşamayacağı bir noktaya.
Ancak asıl soru şu: Süper zeki bir yapay zeka mutlaka tehlikeli olmak zorunda mı? Bir gündemi ve kendini koruma içgüdüsü olmalı mı? Bu AI peygamberlerinin kendi alfa erkek egolarını makinelere yansıtabilmeleri mümkün mü? Makinelerin egosu ve testosteronu olmasa bile ve aslında mantıklı hareket etmeleri gerekiyor.
Pekala, bu tür açık mektuplarla her zaman içeriğe yakından bakmanız gerekir – bunu gerçekte kim imzalar? Ve az önce size Elon Musk’ın imzacıların ön saflarında önemli bir beygir olduğunu söyledim.
Ve aynı Elon Musk, 2015’te ChatGPT’nin arkasındaki şirket olan OpenAI’nin kurucu ortağı oldu. 2018’de onu tamamen devralmak istedi ama olmadı ve ardından şirketten tamamen ayrıldı. Dolayısıyla, mantıklı eylemleriyle tanınan Musk’ın yaralı bir gururla biraz mücadele ediyor olması tamamen mümkün.
Ve bir diğer imza sahibi, milyonlarca kopya satan kitaplarında sık sık dünyanın sonunun bir kısmını kehanet eden tarihçi Yaval Noah Harari. Bu, belki de markasının özü olarak bile tanımlanabilir. Öyleyse bu kıyamet düşüncelerinden para kazanın. Yani, tabiri caizse, doğrudan açık mektuptan yararlanıyor. Ve bu aynı zamanda, süper zeki ve süper tehlikeli AI tehlikesine dair bu konuşmanın nihayetinde AI yutturmacasını azaltmadığı, aksine onu daha da büyüttüğüne dair odada bulunan başka bir tez.
Ne de olsa, çoğu insan için böylesine güçlü bir yapay zeka ile çalışabilmek muhtemelen oldukça heyecan verici. “Woo, ChatGPT matematik problemlerimi çözüyor” gibi, ama tüm dünyayı fethedebilir. Bu yüzden onu mükemmel bir şekilde anlayabiliyorum, hala teknik olarak süper büyüleyici buluyorum ve ayrıca bilim kurgu yapay zekası da varsa.
Elbette, oynamak istiyorsun. Bu istediğim bir ürün. Elbette, OpenAI’nin, yani ChatGPT ve GPT-4’ü yapanların başkanı Sam Altman mektubu imzalamadı, ancak teknolojisinin ne kadar tehlikeli olduğundan bahsediyor. İlk başta bunun ters tepeceğini düşünebilirsiniz, ama sonunda oldukça zekice bir pazarlama, çünkü potansiyel bir Skynet icat ettiğimi iddia ettiğinizde, ah, benim orada icat ettiğim böyle bir sistemim var, demektense açıkça daha fazla dikkat çekersiniz. metin girişini tamamlar.
Ancak tüm imzacıların konunun kendisiyle hiç ilgilenmediğini söylemiyorum. Kesinlikle ciddi endişe duyanlar var. Ancak, gerçekte hangi tehlikelerin söz konusu olduğu konusunda bir ayrım yapmanız gerektiğini düşünüyorum. Yapay zekanın dünyayı ele geçirmesiyle ilgili bu varoluşsal tehlike, evet, muhtemelen henüz o noktaya gelmedik.
GPT-4 gibi büyük dil modellerinde, bazen AGI, yani Yapay Genel Zeka gibi bir şeyi flaş edebilir. Yani yapay genel zeka, bu bir insanın aynı entelektüel yetenekleridir. Ama bir de grup var, ben ona “Kill the Hype” diyeceğim, bunun zekayla hiçbir ilgisi olmadığını söylüyorlar, sadece stokastik papağanlar istatistiksel olarak bir sonraki kelimeyi hesaplıyorlar.
Örneğin, hesaplamalı dilbilimci Emily Bender. O, “stokastik papağan” terimini icat eden bilim adamlarından biridir. Ve evet, bu kadar büyük dil modelleri gerçekte böyle çalışır.
Sadece, sistemlerin eğitim materyalinden gerçekten toplayamayacakları yetenekler gösterdiğine dair her zaman söylentiler vardır. Örneğin, yazılım hiç resim görmemiş olsa bile size tek boynuzlu atın nasıl çizileceğini söyleyebilirler. Yani tek boynuzlu at bir yana, herhangi bir resim.
Bu kiraz toplama mı şimdi? Bu gerçek zeka mı? Ayrıca, araştırmanın bu tür büyük dil modellerinin dahili olarak ne yaptığının çoğunu henüz anlamadığı da çok açık bir şekilde belirtilmelidir. Bu arada, açıklamada konuyla ilgili birkaç kaynak ve belgeye bağlantı verdim. Ancak yine de bu tür dil modellerinin aptalca mı yoksa zekice mi olduğunu tartışmanın bir anlamı yok.
Önemli olan tek şey, ChatGPT, Midjourney ve Stable Diffusion gibi ürünlerin halihazırda milyonlarca insan tarafından kullanılıyor olması ve bugün dünyayı şimdiden değiştiriyor olmasıdır. Örneğin, illüstratörlere ödeme yapmak yerine, şirketler grafiklerini yazılımla üretebilir veya programcılar, aksi takdirde saatler veya günler sürecek ChatGPT programlarına saniyeler içinde sahip olabilir.
Bu, yapay zekanın zamandan tasarruf sağladığı ve sonuç olarak işlerin kaybedilebileceği anlamına gelir. Bu arada OpenAI, Pennsylvania Üniversitesi ile birlikte konuyla ilgili bir çalışma da yayınladı. Ve çalışma, büyük dil modellerinden kaç işin risk altında olduğunu göstermeyi amaçlıyor. Sonuç olarak, işlerin %19’unda görevlerin en az yarısı bir yapay zeka tarafından üstlenilebilir.
Ama tabii ki her şeye çok daha iyimser de bakabilirsiniz. Böylece AI, insanların aynı işi yapmak için daha az şey yapmasını sağlar. Yani daha az işten daha fazla katma değer. Ve bu herkes için daha fazla refah anlamına gelebilir. Evet, olabilir, değil mi?
Ancak son 30 yılda dijitalleşme, verimlilikte gözle görülür artışlar sağladı, ancak fiili işi yapanlardan daha fazla sermayeye sahip olanlar özellikle fayda sağladı.
Bu sol propaganda falan değil, oldukça objektif bir şekilde gösterilebilir. Bu Gini indeksi. 0 tamamen eşit dağılımı, 100 tamamen eşit olmayan dağılımı ifade eder. Son birkaç on yılda basitçe arttı. Burada Almanya ve ABD için çizelgeleri görebilirsiniz.
Bu nedenle, gelecekteki bazı “AI’lar hepimizi öldürecek” senaryolarını ele almak yerine bugüne daha iyi bakmalıyız. Bu arada, bu aynı zamanda AI’nın açık mektubunun bir okuması. Mevcut, gerçek AI sorunlarından dikkati dağıtmak için tasarlanmış bu kadar kötü bir dünyanın sonu senaryosu var mı?
Dediğim gibi, düşünecek daha çok şey var. Yani sadece potansiyel olarak tehlike altında olan eserler hakkında değil, aynı zamanda AI şirketlerinin ürünlerini resimler, metinler, kitaplar gibi insan yapımı eserlerle besleyerek yazarlara ödeme yapmadan çok para kazanması hakkında da.
Ya da örneğin, görüntüler temelde yalnızca mevcut görüntülerin remikslerinden ibaret olduğunda gerçekte ne olduğu hakkında bile çünkü artık pahalı fotoğraf prodüksiyonları yapmaya değmez, çünkü kolayca süper profesyonel görünümlü fotoğraflar oluşturabilirsiniz.
Ama sonra bir noktada, yeni hiçbir şey ortaya çıkmayacak mı? Öyleyse AI’ların eski şeyleri tekrar tekrar karıştırmasına izin verelim mi? Yani kültür esasen şimdi durdu mu? Evet, peki ya artık kimse gerçek resimlerden sahteleri ayırt edemezken gerçek ne olacak?
Ve insanları tam olarak manipüle etmek için kullanılabilecek kişiselleştirilmiş sahte haberler olacak mı? Bunlar tartışmamız gereken şeyler. Ve sonra belki daha sonra bir noktada yapay zekanın dünya hakimiyetinde. VEYA? Bunu nasıl görüyorsunuz? MERHABA!
c’t 3003, c’t YouTube kanalıdır. c’t 3003’teki videolar bağımsız içeriktir ve c’t dergisi yazılarından bağımsızdır. Editörler Jan-Keno Janssen ve Lukas Rumpler ile video yapımcıları Şahin Erengil ve Pascal Schewe her hafta bir video yayınlıyor.
(jj)
Haberin Sonu