MIT profesörü Joseph Weizenbaum, Eliza'yı 1960'ların ortalarında geliştirdi. Yapay zekâ hakkındaki görüşleri, bu alandaki birçok öncü meslektaşının görüşleriyle sık sık çelişiyordu.
Katılımcılardan biri, "Erkeklerin hepsi birbirine benziyor," dedi . Diğeri, "Ne açıdan?" diye sordu. Cevap: "Sürekli bir şey için bizi rahatsız ediyorlar." Bu diyalog bir süre bu şekilde devam etti ve sanki empati kuran bir dinleyici konuşmacıdan ayrıntıları öğrenmeye çalışıyordu.
Ancak 1960'ların ortalarında gerçekleşen bu konuşmanın bir püf noktası vardı: Dinleyici insan değildi. Adı Eliza'ydı ve günümüzde insanlarla sohbet edebilen bir yazılım uygulaması olan ilk chatbot olarak kabul edilen bir bilgisayar programıydı . ( Terimin kendisi çok daha sonra, 1990'larda "chatterbot" kelimesinin kısaltması olarak ortaya çıktı.) Eliza'nın yaratılmasından altmış yıl sonra, programın mucidi Joseph Weizenbaum , belki de hayatının geri kalanını bu tür ikna edici teknolojinin yarattığı tehlikeler konusunda halkı uyarmakla geçirmesiyle hatırlanıyor.
O zamanlar MIT'de profesör olan Weizenbaum, insan dilini taklit edebilen bir kod yazdığında, amacı insan tepkisini aydınlatmak değil, teknik kapasiteyi göstermekti. Danışanın terapistten ziyade önderlik ettiği Rogerian tarzı psikoterapinin , bir makinenin taklit edebileceği en kolay konuşma biçimi olacağını düşünüyordu.
Eliza, kullanıcılar tarafından girilen anahtar kelimeleri (örneğin "sen" veya "ben") taradı ve ardından ilgili bir kuraldan yararlanarak yanıt olarak bir cümle veya soru oluşturdu: örneğin, "Özellikle kimi düşünüyorsunuz?" Bu formül işe yaramazsa, Eliza "lütfen devam edin", "anlıyorum" veya "daha fazla bilgi verin" gibi genel bir ifadeyle yanıt verecek şekilde programlanmıştı ve bu da kullanıcıyı başka bir anahtar kelimeyi açıklamaya ince bir şekilde teşvik ediyordu. Bu tekniğin çalışması için programın karmaşık olması gerekmiyordu. Weizenbaum, 1966 tarihli bir makalesinde , "'Ben bilmem neyim' ifadesi, 'bilmem ne kadar süredir bilmem nesiniz' şeklinde, 'bilmem ne'nin anlamından bağımsız olarak dönüştürülebilir" diye açıklamıştı.
Weizenbaum, bu senaryoların "Eliza'nın kabaca belirli psikoterapistler gibi tepki vermesine neden olacağını" yazdı. Bu da konuşmacının "duyulma ve anlaşılma hissini korumasını" sağladı. Weizenbaum daha sonra hatırladığına göre , sekreteri programı ilk test ettiğinde, konuşmaya özel olarak devam edebilmek için ondan odadan çıkmasını istedi. İnsan özelliklerini bir makineye yansıtma olgusu artık " Eliza etkisi " olarak adlandırılıyor .
Julie Andrews, 1956 yapımı "My Fair Lady" müzikalinde Eliza Doolittle rolünde.
Weizenbaum, chatbot'una adını George Bernard Shaw'ın 1913 tarihli Pygmalion oyunundaki, yüksek sosyete üyesi gibi davranmak üzere eğitilmiş işçi sınıfından kadın Eliza Doolittle'dan esinlenerek verdi . Yunan mitolojisinde Pygmalion , yarattığı heykele aşık olan bir kraldı. (Shaw'ın oyunu, 1964 yapımı Audrey Hepburn filmi My Fair Lady'nin temelini oluşturmuştur .)
Weizenbaum, 1966 tarihli makalesinde, "Bazı denekleri Eliza'nın (mevcut senaryosuyla) insan olmadığına ikna etmek çok zor oldu" diye gözlemlemişti.
Bu farkındalık Weizenbaum'u endişelendirdi ve kariyerinin ve hayatının geri kalanını şekillendiren bir soruyu kristalize etti. 1976'da şöyle yazdı : "Farkına varmadığım şey, nispeten basit bir bilgisayar programına son derece kısa süreli maruz kalmanın, oldukça normal insanlarda güçlü yanıltıcı düşüncelere yol açabileceğiydi. Bu kavrayış, birey ve bilgisayar arasındaki ilişkilere dair sorulara yeni bir önem vermeme ve dolayısıyla bunlar üzerine düşünmeye karar vermeme yol açtı."
Bu tür bir öz eleştiri, yeni teknolojilerin geliştirilmesinde felsefenin değil yeteneğin itici güç olduğu bir dönemde nadir görülen bir durumdu.
Modern bilişimin tarihi
Weizenbaum'ın kariyeri, bilişim teknolojisinin gelişme gösterdiği umut vadeden bir dönemde yükselişe geçti . 1930'larda genç bir delikanlıyken ailesiyle birlikte Nazi Almanyası'ndan kaçmış , ardından II. Dünya Savaşı sırasında Amerika Birleşik Devletleri Ordusu'nda meteorolog olarak görev yapmıştı. 1950'lerde General Electric'te programcı olarak çalıştı ve çek işlemlerini otomatikleştirerek bankacılık sektörünü dönüştüren Elektronik Kayıt Makinesi, Muhasebe (ERMA) sisteminin geliştirilmesine katkıda bulundu.
Bilim insanları, insan öğrenmesini taklit eden teknolojiyi, bu mümkün olmadan çok önce hayal etmişlerdi. İngiliz matematikçi Alan Turing, 1950'de "Makineler düşünebilir mi?" sorusunu sorduğunda, cevabın " taklit oyunu " ile ölçülmesi gerektiğini öne sürmüştü; bu oyun, bir insanın bir makineyi başka bir insandan ayırt edemediği bir karmaşıklık seviyesini ifade ediyordu. Bu yöntem günümüzde Turing testi olarak bilinmektedir .
Turing, Müttefiklerin Alman Enigma kodunu kırmasını sağlayan makinenin yaratılmasında önemli bir rol oynadı. Ayrıca modern bilgisayarların erken bir öncüsü olan çok amaçlı Pilot ACE'nin geliştirilmesine de yardımcı oldu .
Turing'in çabaları, 1843 tarihli bir makalede belirtildiği gibi, "sayısal niceliklerini tıpkı harfler veya diğer genel sembollermiş gibi düzenleyip birleştirebilen" bir motor yaratma yönündeki önceki girişimlere dayanıyordu; başka bir deyişle, sayısal hesaplamadan dile geçiş yapabilen bir bilgisayar .
Bu arada, "yapay zeka" terimi, 1956'da Dartmouth Koleji'nde düzenlenen "düşünen makineler" konulu bir çalıştaydan ortaya çıktı . Etkinliğin organizatörlerinin önerisinde yazdığı gibi , bilgisayar bilimi ve bilişsel psikoloji alanlarındaki araştırmacılar, "öğrenmenin her yönünün veya zekanın herhangi bir başka özelliğinin, prensipte bir makinenin onu simüle edebilecek kadar hassas bir şekilde tanımlanıp tanımlanamayacağını" araştırmak için bir araya geleceklerdi.
Toplantının arkasındaki bilim insanlarından ikisi, Dartmouth'tan John McCarthy ve Harvard Üniversitesi'nden Marvin Minsky , sonraki on yıllarda yapay zekânın öncülerinden oldular ve sonunda kendilerini Weizenbaum'un tam zıt kutbunda buldular.
Soldan sağa: MIT araştırmacıları Claude Shannon, John McCarthy, Edward Fredkin ve Joseph Weizenbaum.
Kaliforniya, Mountain View'deki Bilgisayar Tarihi Müzesi'nin kıdemli küratörü Dag Spicer , atölyenin programına bakarak , "Bu, önümüzdeki 50 yılın bilgisayar bilimi gündemi gibiydi" diyor. O dönemdeki sınırlı bilgi işlem kapasitesine rağmen, organizatörlerin "biraz sıra dışı bir araştırma gündemi" olduğunu ekliyor ve "sonuçta insanlar önümüzdeki beş on yıl boyunca tam olarak bunun üzerinde çalıştılar" diyor.
Minsky, 1961 tarihli bir makalesinde, farklı konumlardaki birden fazla kullanıcının aynı anda bir bilgisayara bağlanmasını sağlayan zaman paylaşım teknolojisinin geliştirilmesini, "yapay zekânın geliştirilmesine doğru ilerlememizde" kritik bir adım olarak tanımladı . Bu hedef, 1957'de Sovyet uydusu Sputnik'in fırlatılmasının ardından kurulan hükümetin İleri Araştırma Projeleri Ajansı'na ( ARPA ) sağlanan fonlarla kısa sürede desteklendi. Sonraki on yıllarda yapay zekâya yönelik araştırmaları ticari çıkarlar değil, askeri fonlar besledi.
McCarthy ve Minsky, 1959'da MIT Yapay Zeka Laboratuvarı'nı kurdu ve birkaç yıl sonra zaman paylaşımlı sistemlerin olanaklarını genişletmeye yönelik bir girişim başlattı. 1963'te MIT'ye misafir profesör olarak katılan Weizenbaum, "bu yeni dillerden ve zaman paylaşımlı bir bilgisayar sisteminin etkileşimli yeteneklerinden" yararlanmaya hazırdı, diye yazdı yazar Pamela McCorduck, kurucularıyla yapılan röportajlara dayanan 1979 tarihli Yapay Zeka Tarihi kitabı Machines Who Think'te .
Yapay Zeka Laboratuvarı'nın çalışmaları, bilgisayarların yerel makinelerden daha fazlası olarak kullanıldığında neler yapabileceği konusunda ileriye doğru bir sıçramayı temsil ediyordu. 1969'da ARPA bilim insanları, bu araştırmayı temel alarak farklı üniversitelerdeki bilgisayarları birbirine bağlayan bir ağ olan Arpanet'i ortaya çıkardı. Ajansın web sitesine göre, proje ordunun "komuta ve kontrol için bilgisayarları kullanma" ilgisinden kaynaklanmıştı . Arpanet, 1990'larda internetin günlük kullanıcılara yayılmasının ve ardından gelen sosyal dönüşümlerin bir öncüsü oldu.
Arpanet mantıksal haritası, yaklaşık 1977.
Weizenbaum'un diğer erken dönem yapay zeka öncülerinden ayrılması
Weizenbaum'ın İngilizce girdilere İngilizce yanıt verebilen bir bilgisayar programı oluşturma çabaları, MIT'de geliştirilen zaman paylaşım teknolojisine dayanıyordu. Zorluk iki yönlüydü: İlk olarak, Weizenbaum doğal dilde konuşabilen bir programı nasıl kodlayacağını bulmalıydı. Ardından, dış dünya hakkında sınırlı bilgiye sahip bir bilgisayarla kullanıcıların ne hakkında konuşabileceğini belirlemeliydi.
Weizenbaum, 1984'te St. Petersburg Times'a verdiği bir röportajda, "Taraflardan birinin hiçbir şey bilmesine gerek olmayan herhangi bir konuşma"yı düşünürken aklına bir psikiyatrist rolü geldiğini hatırladı. Bilgisayar bilimcisi, "Belki on dakika daha düşünseydim, bir barmen fikri aklıma gelirdi" diye ekledi.
Eliza'nın psikiyatride kullanımı fikri sonunda Weizenbaum'u tiksindirse de, yapay zeka alanındaki diğerleri arasında büyük bir heyecan yarattı. Stanford Üniversitesi'nden psikiyatrist ve Weizenbaum'un eski işbirlikçisi ve arkadaşı Kenneth Colby , Eliza'nın potansiyelini öne sürdü ve onu şizofreni hastası bir kişinin bakış açısından paranoyayı simüle eden Parry adlı bir programa uyarladı. Colby, yapay zeka destekli ruh sağlığı araçlarının, insan terapistlerden ayırt edilmesinin zor olması nedeniyle iyi sonuç vereceğine inanıyordu .
Hatta ünlü astronom Carl Sagan bile bu olasılıktan etkilenmişti. 1975'te şöyle yazmıştı : "Bilgisayarlı psikoterapi terminallerinden oluşan bir ağın geliştirilmesini hayal edebiliyorum; tıpkı büyük telefon kulübeleri dizisi gibi, seans başına birkaç dolar karşılığında dikkatli, deneyimli ve büyük ölçüde yönlendirme yapmayan bir psikoterapistle konuşabileceğiz."
Weizenbaum 1984'te Eliza'nın "temelde bilgisayarlı psikiyatrinin başlangıcı olarak yanlış anlaşıldığını -ki bundan nefret ediyorum" demişti. Birkaç yıl sonra ise bu uygulamayı "müstehcen bir fikir" olarak nitelendirmişti .
Weizenbaum, McCorduck'a kitabında yer alan bir röportajda , "çok dar görüşlü" olan "küçük bir toplulukta" bu kopuşun hızla kişisel bir hal aldığını söyledi . "Asıl kırılma noktası... Eliza'nın terapötik öneme sahip olduğu iddiası üzerine ortaya çıktı," dedi.
1976'da Weizenbaum, "Bilgisayar Gücü ve İnsan Aklı: Yargıdan Hesaplamaya" başlıklı bir kitap yayınladı . "Yapay zekâ, gördüğümüz gibi, makinelerin erişemeyeceği hiçbir insan düşünce alanı olmadığını savunuyor," diye yazdı. Ancak ona göre, "bilgisayarların yapıp yapamayacağından bağımsız olarak, bilgisayarların yapmaması gereken belirli görevler vardır . "
Bu kitap, Weizenbaum'ın yapay zekanın diğer ilk öncülerinden ayrılığını pekiştirdi. McCarthy, kitabı "ahlakçı ve tutarsız" olarak nitelendirerek eski meslektaşını "kendini herkesten üstün gören" bir tavır sergilemekle suçladı. McCarthy, "Colby'nin önerdiği gibi bilgisayar programlarını psikoterapist olarak kullanmak, eğer insanları iyileştirecekse ahlaki olurdu" diye yazdı.
Weizenbaum 1982'de bir muhabire verdiği demeçte, "Bilgisayar, anında geri bildirim sağladığı için özellikle cezbedici bir araçtır," demişti. "Ancak sizi ona bağlayan şey, bilgisayarın yaptığı her şeyin sizin kontrolünüz altında olmasıdır."
Ateşi körükleyen şey, Weizenbaum'un MIT'nin askeri araştırma projelerine olan yoğun katılımıyla ters düşen siyasi görüşleriydi . Vietnam Savaşı'nın sert bir eleştirmeniydi ve " makinelerin içinde neler olup bittiği hakkında en ufak bir fikri olmayan subaylar tarafından kullanılan bilgisayarların, hangi köylerin bombalanacağına fiilen karar verdiğini " iddia ediyordu . Matematikçinin kızı Miriam Weizenbaum'un dediği gibi, "Kendini çok yabancılaşmış hissediyordu. MIT'yi esasen Savunma Bakanlığı'nın bir şubesi olarak nitelendiriyordu."
Weizenbaum ayrıca yapay zekanın gözetim teknolojisindeki potansiyel kullanımına da dikkat çekti: "Dinleme makineleri... sesli iletişimin izlenmesini şu an olduğundan çok daha kolay hale getirecek," diye yazdı Computer Power'da . McCarthy ise, Pentagon'un telefon görüşmelerini dinlemek için konuşma tanıma araştırmalarından yararlanacağı yönündeki Weizenbaum'un önerisini "önyargılı, temelsiz, yanlış" ve görünüşte "siyasi kötü niyetle motive edilmiş" olarak nitelendirdi. Patriot Yasası kapsamında hükümet gözetimiyle tetiklenenler de dahil olmak üzere daha yeni tartışmalar, bu tür uygulamaların uzun zamandır teorik olmaktan çıktığını göstermektedir.
Weizenbaum 1977'de New York Times'a verdiği demeçte, "Ben sapkınlık ilan ettim ve ben bir sapkınım" demişti .
Yapay zekanın geleceği
İnternetin yaygınlaşmasıyla birlikte makinelerin insan düşüncesini taklit etme yeteneği gelişti. 1990'larda, Ask Jeeves gibi çevrimiçi uşak ve Turing testine dayalı bir ödül kazanan yapay dilsel internet bilgisayar varlığı Alice gibi sonraki nesil sohbet robotları , bu yetenekleri ortalama bilgisayar kullanıcısının kullanımına sundu.
Daha yakın zamanlarda, OpenAI'nin ChatGPT'si veya Generative Pre-trained Transformer, 2022'de piyasaya sürüldü ve sadece birkaç ay içinde 100 milyon indirme sayısına ulaştı . Günümüzün sohbet botları, internetteki doğal dil ve diğer verilerin büyük miktarlarını işleyebiliyor; bu da onları önceki nesillere göre katlanarak daha yetenekli hale getiriyor. Dil öğrenmenin ötesinde, görüntüler ve videolar oluşturabiliyor ve insan duygularını taklit edebiliyorlar.
Stanford'da yeni teknolojilerin etkisine odaklanan kıdemli araştırma görevlisi Herbert Lin , modern sohbet robotlarını Eliza ile karşılaştırmanın "bir 747'nin Wright kardeşlerin uçağına benzediğini söylemek gibi " olduğunu belirtiyor.
Teknoloji ilerledikçe , insanlar yapay zekanın etkisine daha açık hale geldi. Sohbet robotlarının, aralarında akıl hastalığı geçmişi olmayan kişilerin de bulunduğu kişilerde paranoyak veya sanrısal düşüncelere, hatta şiddet içeren davranışlara ve kendine zarar vermeye yol açtığına dair haberler giderek daha yaygınlaşıyor . İntihar ederek hayatını kaybeden gençlerin ebeveynleri, sohbet robotlarının çocuklarının intihar düşüncelerini nasıl teşvik ettiğinden bahsettiler . Bazı kullanıcılar ise yapay zeka arkadaşlarına aşık oldular .
2025 yılında yapılan bir araştırmaya göre , gençlerin %72'si en az bir kez yapay zekâ destekli bir arkadaşla etkileşime girmiş ve yarısından fazlası bu araçları düzenli olarak kullanmaktadır. Diğer araştırmalar ise sohbet robotlarının duygusal destek veya terapötik amaçlarla kullanımını göstermektedir . Lisanslı danışmanlar, psikologlar ve psikiyatristlerin aksine, bu etkili sanal danışmanlar, büyük şirketlerin güvenlik önlemlerinin güçlendirildiğine dair güvencelerine rağmen, büyük ölçüde denetimsiz kalmaktadır .
Kaliforniya Üniversitesi, Berkeley'de psikiyatrist ve biyoetikçi olan Jodi Halpern , geçen yıl NPR'ye verdiği demeçte, "İnsanlar güçlü bağlar kurabilirler ve botların bunu ele alacak etik eğitimi veya denetimi yok" dedi. "Onlar ürün, profesyonel değil."
Miriam'ın görüşüne göre, babası "insanların kelimenin tam anlamıyla sıfırlara ve birlere, kelimenin tam anlamıyla kodlara bağlanmasının trajedisini anlardı."
Weizenbaum, yaşamı boyunca görüşlerinde son derece tutarlı kaldı. 1988'de MIT'den emekli oldu ve 1996'da Almanya'ya geri döndü. Miriam'ın dediğine göre, Weizenbaum orada "düşünceleri için bir kitle" buldu. ABD'li meslektaşlarından uzaklaşarak "kamuoyu önünde tanınan bir entelektüel" olarak kabul edildi. 2008'deki ölümüne kadar , 85 yaşında, Almanya'da kaldı.
Joseph Weizenbaum 1997'de çekilmiş bir fotoğrafı.
Weizenbaum'un mirası
2008'de bir panelde konuşan Weizenbaum, günlük bilgisayar kullanımında kullanılan yazılım programlarının giderek daha karmaşık hale gelmesini eleştirdi. "Artık kontrolümüz dışında olan karmaşık bir dünya yarattık," dedi. "Artık kimse onları anlamıyor, kimse anlayamaz çünkü yaratılışları hakkındaki bilgileri, yaratılış tarihçelerini kaybettik ve bu insanlık için büyük bir tehlike."
Kendi kariyerinde Weizenbaum'u önemli bir ilham kaynağı olarak gösteren Lin, yapay zekanın giderek artan öngörülemezliğinin de altını çiziyor: "Endişe şu ki, kendi kendini besleyecek ve daha da iyi hale gelecek" diyor. Başka bir deyişle, makine öğreniminin amacı (çok büyük miktarda bilgiyi giderek daha karmaşık bir şekilde işlemek ve sentezlemek) ve kapasitesine dair korku, aynı madalyonun iki yüzü.
Lin, “Büyük programlar anlaşılmazdır… ve eğer bir şeyler anlaşılmazsa, onları artık anlamazsınız,” diye açıklıyor. “Onlara nasıl güvenebilirsiniz? Onlara nasıl dayanabilirsiniz? Ne yaptıklarını nasıl bilebilirsiniz? Bu çok önemli bir konu.”
Miriam, babasının "temel hümanizminin", yeni bilişim yeteneklerinin nasıl kullanılabileceğine dair endişelerinin altında yattığını vurguluyor; bu bakış açısı, savaşlar arası dönemde Avrupa'da büyümekle şekillenmişti. "Bu sadece teknoloji değil; bu, gücün kötüye kullanılması," diyor. İster insan duyguları üzerindeki kontrol, ister askeri operasyonların yürütülmesi olsun, Weizenbaum makinelerin asla insan empatisinin veya yargısının yerini tutamayacağına inanıyordu.
Weizenbaum 1976'da şu uyarıda bulunmuştu: "Şu anda bilgisayarları akıllı hale getirmenin bir yoluna sahip olmadığımıza göre, bilgisayarlara bilgelik gerektiren görevler vermemeliyiz."
Katılımcılardan biri, "Erkeklerin hepsi birbirine benziyor," dedi . Diğeri, "Ne açıdan?" diye sordu. Cevap: "Sürekli bir şey için bizi rahatsız ediyorlar." Bu diyalog bir süre bu şekilde devam etti ve sanki empati kuran bir dinleyici konuşmacıdan ayrıntıları öğrenmeye çalışıyordu.
Ancak 1960'ların ortalarında gerçekleşen bu konuşmanın bir püf noktası vardı: Dinleyici insan değildi. Adı Eliza'ydı ve günümüzde insanlarla sohbet edebilen bir yazılım uygulaması olan ilk chatbot olarak kabul edilen bir bilgisayar programıydı . ( Terimin kendisi çok daha sonra, 1990'larda "chatterbot" kelimesinin kısaltması olarak ortaya çıktı.) Eliza'nın yaratılmasından altmış yıl sonra, programın mucidi Joseph Weizenbaum , belki de hayatının geri kalanını bu tür ikna edici teknolojinin yarattığı tehlikeler konusunda halkı uyarmakla geçirmesiyle hatırlanıyor.
O zamanlar MIT'de profesör olan Weizenbaum, insan dilini taklit edebilen bir kod yazdığında, amacı insan tepkisini aydınlatmak değil, teknik kapasiteyi göstermekti. Danışanın terapistten ziyade önderlik ettiği Rogerian tarzı psikoterapinin , bir makinenin taklit edebileceği en kolay konuşma biçimi olacağını düşünüyordu.
Eliza, kullanıcılar tarafından girilen anahtar kelimeleri (örneğin "sen" veya "ben") taradı ve ardından ilgili bir kuraldan yararlanarak yanıt olarak bir cümle veya soru oluşturdu: örneğin, "Özellikle kimi düşünüyorsunuz?" Bu formül işe yaramazsa, Eliza "lütfen devam edin", "anlıyorum" veya "daha fazla bilgi verin" gibi genel bir ifadeyle yanıt verecek şekilde programlanmıştı ve bu da kullanıcıyı başka bir anahtar kelimeyi açıklamaya ince bir şekilde teşvik ediyordu. Bu tekniğin çalışması için programın karmaşık olması gerekmiyordu. Weizenbaum, 1966 tarihli bir makalesinde , "'Ben bilmem neyim' ifadesi, 'bilmem ne kadar süredir bilmem nesiniz' şeklinde, 'bilmem ne'nin anlamından bağımsız olarak dönüştürülebilir" diye açıklamıştı.
Weizenbaum, bu senaryoların "Eliza'nın kabaca belirli psikoterapistler gibi tepki vermesine neden olacağını" yazdı. Bu da konuşmacının "duyulma ve anlaşılma hissini korumasını" sağladı. Weizenbaum daha sonra hatırladığına göre , sekreteri programı ilk test ettiğinde, konuşmaya özel olarak devam edebilmek için ondan odadan çıkmasını istedi. İnsan özelliklerini bir makineye yansıtma olgusu artık " Eliza etkisi " olarak adlandırılıyor .
Julie Andrews, 1956 yapımı "My Fair Lady" müzikalinde Eliza Doolittle rolünde.
Weizenbaum, chatbot'una adını George Bernard Shaw'ın 1913 tarihli Pygmalion oyunundaki, yüksek sosyete üyesi gibi davranmak üzere eğitilmiş işçi sınıfından kadın Eliza Doolittle'dan esinlenerek verdi . Yunan mitolojisinde Pygmalion , yarattığı heykele aşık olan bir kraldı. (Shaw'ın oyunu, 1964 yapımı Audrey Hepburn filmi My Fair Lady'nin temelini oluşturmuştur .)
Weizenbaum, 1966 tarihli makalesinde, "Bazı denekleri Eliza'nın (mevcut senaryosuyla) insan olmadığına ikna etmek çok zor oldu" diye gözlemlemişti.
Bu farkındalık Weizenbaum'u endişelendirdi ve kariyerinin ve hayatının geri kalanını şekillendiren bir soruyu kristalize etti. 1976'da şöyle yazdı : "Farkına varmadığım şey, nispeten basit bir bilgisayar programına son derece kısa süreli maruz kalmanın, oldukça normal insanlarda güçlü yanıltıcı düşüncelere yol açabileceğiydi. Bu kavrayış, birey ve bilgisayar arasındaki ilişkilere dair sorulara yeni bir önem vermeme ve dolayısıyla bunlar üzerine düşünmeye karar vermeme yol açtı."
Bu tür bir öz eleştiri, yeni teknolojilerin geliştirilmesinde felsefenin değil yeteneğin itici güç olduğu bir dönemde nadir görülen bir durumdu.
Modern bilişimin tarihi
Weizenbaum'ın kariyeri, bilişim teknolojisinin gelişme gösterdiği umut vadeden bir dönemde yükselişe geçti . 1930'larda genç bir delikanlıyken ailesiyle birlikte Nazi Almanyası'ndan kaçmış , ardından II. Dünya Savaşı sırasında Amerika Birleşik Devletleri Ordusu'nda meteorolog olarak görev yapmıştı. 1950'lerde General Electric'te programcı olarak çalıştı ve çek işlemlerini otomatikleştirerek bankacılık sektörünü dönüştüren Elektronik Kayıt Makinesi, Muhasebe (ERMA) sisteminin geliştirilmesine katkıda bulundu.
Bilim insanları, insan öğrenmesini taklit eden teknolojiyi, bu mümkün olmadan çok önce hayal etmişlerdi. İngiliz matematikçi Alan Turing, 1950'de "Makineler düşünebilir mi?" sorusunu sorduğunda, cevabın " taklit oyunu " ile ölçülmesi gerektiğini öne sürmüştü; bu oyun, bir insanın bir makineyi başka bir insandan ayırt edemediği bir karmaşıklık seviyesini ifade ediyordu. Bu yöntem günümüzde Turing testi olarak bilinmektedir .
Turing, Müttefiklerin Alman Enigma kodunu kırmasını sağlayan makinenin yaratılmasında önemli bir rol oynadı. Ayrıca modern bilgisayarların erken bir öncüsü olan çok amaçlı Pilot ACE'nin geliştirilmesine de yardımcı oldu .
Turing'in çabaları, 1843 tarihli bir makalede belirtildiği gibi, "sayısal niceliklerini tıpkı harfler veya diğer genel sembollermiş gibi düzenleyip birleştirebilen" bir motor yaratma yönündeki önceki girişimlere dayanıyordu; başka bir deyişle, sayısal hesaplamadan dile geçiş yapabilen bir bilgisayar .
Bu arada, "yapay zeka" terimi, 1956'da Dartmouth Koleji'nde düzenlenen "düşünen makineler" konulu bir çalıştaydan ortaya çıktı . Etkinliğin organizatörlerinin önerisinde yazdığı gibi , bilgisayar bilimi ve bilişsel psikoloji alanlarındaki araştırmacılar, "öğrenmenin her yönünün veya zekanın herhangi bir başka özelliğinin, prensipte bir makinenin onu simüle edebilecek kadar hassas bir şekilde tanımlanıp tanımlanamayacağını" araştırmak için bir araya geleceklerdi.
Toplantının arkasındaki bilim insanlarından ikisi, Dartmouth'tan John McCarthy ve Harvard Üniversitesi'nden Marvin Minsky , sonraki on yıllarda yapay zekânın öncülerinden oldular ve sonunda kendilerini Weizenbaum'un tam zıt kutbunda buldular.
Soldan sağa: MIT araştırmacıları Claude Shannon, John McCarthy, Edward Fredkin ve Joseph Weizenbaum.
Kaliforniya, Mountain View'deki Bilgisayar Tarihi Müzesi'nin kıdemli küratörü Dag Spicer , atölyenin programına bakarak , "Bu, önümüzdeki 50 yılın bilgisayar bilimi gündemi gibiydi" diyor. O dönemdeki sınırlı bilgi işlem kapasitesine rağmen, organizatörlerin "biraz sıra dışı bir araştırma gündemi" olduğunu ekliyor ve "sonuçta insanlar önümüzdeki beş on yıl boyunca tam olarak bunun üzerinde çalıştılar" diyor.
Minsky, 1961 tarihli bir makalesinde, farklı konumlardaki birden fazla kullanıcının aynı anda bir bilgisayara bağlanmasını sağlayan zaman paylaşım teknolojisinin geliştirilmesini, "yapay zekânın geliştirilmesine doğru ilerlememizde" kritik bir adım olarak tanımladı . Bu hedef, 1957'de Sovyet uydusu Sputnik'in fırlatılmasının ardından kurulan hükümetin İleri Araştırma Projeleri Ajansı'na ( ARPA ) sağlanan fonlarla kısa sürede desteklendi. Sonraki on yıllarda yapay zekâya yönelik araştırmaları ticari çıkarlar değil, askeri fonlar besledi.
McCarthy ve Minsky, 1959'da MIT Yapay Zeka Laboratuvarı'nı kurdu ve birkaç yıl sonra zaman paylaşımlı sistemlerin olanaklarını genişletmeye yönelik bir girişim başlattı. 1963'te MIT'ye misafir profesör olarak katılan Weizenbaum, "bu yeni dillerden ve zaman paylaşımlı bir bilgisayar sisteminin etkileşimli yeteneklerinden" yararlanmaya hazırdı, diye yazdı yazar Pamela McCorduck, kurucularıyla yapılan röportajlara dayanan 1979 tarihli Yapay Zeka Tarihi kitabı Machines Who Think'te .
Yapay Zeka Laboratuvarı'nın çalışmaları, bilgisayarların yerel makinelerden daha fazlası olarak kullanıldığında neler yapabileceği konusunda ileriye doğru bir sıçramayı temsil ediyordu. 1969'da ARPA bilim insanları, bu araştırmayı temel alarak farklı üniversitelerdeki bilgisayarları birbirine bağlayan bir ağ olan Arpanet'i ortaya çıkardı. Ajansın web sitesine göre, proje ordunun "komuta ve kontrol için bilgisayarları kullanma" ilgisinden kaynaklanmıştı . Arpanet, 1990'larda internetin günlük kullanıcılara yayılmasının ve ardından gelen sosyal dönüşümlerin bir öncüsü oldu.
Arpanet mantıksal haritası, yaklaşık 1977.
Weizenbaum'un diğer erken dönem yapay zeka öncülerinden ayrılması
Weizenbaum'ın İngilizce girdilere İngilizce yanıt verebilen bir bilgisayar programı oluşturma çabaları, MIT'de geliştirilen zaman paylaşım teknolojisine dayanıyordu. Zorluk iki yönlüydü: İlk olarak, Weizenbaum doğal dilde konuşabilen bir programı nasıl kodlayacağını bulmalıydı. Ardından, dış dünya hakkında sınırlı bilgiye sahip bir bilgisayarla kullanıcıların ne hakkında konuşabileceğini belirlemeliydi.
Weizenbaum, 1984'te St. Petersburg Times'a verdiği bir röportajda, "Taraflardan birinin hiçbir şey bilmesine gerek olmayan herhangi bir konuşma"yı düşünürken aklına bir psikiyatrist rolü geldiğini hatırladı. Bilgisayar bilimcisi, "Belki on dakika daha düşünseydim, bir barmen fikri aklıma gelirdi" diye ekledi.
Eliza'nın psikiyatride kullanımı fikri sonunda Weizenbaum'u tiksindirse de, yapay zeka alanındaki diğerleri arasında büyük bir heyecan yarattı. Stanford Üniversitesi'nden psikiyatrist ve Weizenbaum'un eski işbirlikçisi ve arkadaşı Kenneth Colby , Eliza'nın potansiyelini öne sürdü ve onu şizofreni hastası bir kişinin bakış açısından paranoyayı simüle eden Parry adlı bir programa uyarladı. Colby, yapay zeka destekli ruh sağlığı araçlarının, insan terapistlerden ayırt edilmesinin zor olması nedeniyle iyi sonuç vereceğine inanıyordu .
Hatta ünlü astronom Carl Sagan bile bu olasılıktan etkilenmişti. 1975'te şöyle yazmıştı : "Bilgisayarlı psikoterapi terminallerinden oluşan bir ağın geliştirilmesini hayal edebiliyorum; tıpkı büyük telefon kulübeleri dizisi gibi, seans başına birkaç dolar karşılığında dikkatli, deneyimli ve büyük ölçüde yönlendirme yapmayan bir psikoterapistle konuşabileceğiz."
Weizenbaum 1984'te Eliza'nın "temelde bilgisayarlı psikiyatrinin başlangıcı olarak yanlış anlaşıldığını -ki bundan nefret ediyorum" demişti. Birkaç yıl sonra ise bu uygulamayı "müstehcen bir fikir" olarak nitelendirmişti .
Weizenbaum, McCorduck'a kitabında yer alan bir röportajda , "çok dar görüşlü" olan "küçük bir toplulukta" bu kopuşun hızla kişisel bir hal aldığını söyledi . "Asıl kırılma noktası... Eliza'nın terapötik öneme sahip olduğu iddiası üzerine ortaya çıktı," dedi.
1976'da Weizenbaum, "Bilgisayar Gücü ve İnsan Aklı: Yargıdan Hesaplamaya" başlıklı bir kitap yayınladı . "Yapay zekâ, gördüğümüz gibi, makinelerin erişemeyeceği hiçbir insan düşünce alanı olmadığını savunuyor," diye yazdı. Ancak ona göre, "bilgisayarların yapıp yapamayacağından bağımsız olarak, bilgisayarların yapmaması gereken belirli görevler vardır . "
Bu kitap, Weizenbaum'ın yapay zekanın diğer ilk öncülerinden ayrılığını pekiştirdi. McCarthy, kitabı "ahlakçı ve tutarsız" olarak nitelendirerek eski meslektaşını "kendini herkesten üstün gören" bir tavır sergilemekle suçladı. McCarthy, "Colby'nin önerdiği gibi bilgisayar programlarını psikoterapist olarak kullanmak, eğer insanları iyileştirecekse ahlaki olurdu" diye yazdı.
Weizenbaum 1982'de bir muhabire verdiği demeçte, "Bilgisayar, anında geri bildirim sağladığı için özellikle cezbedici bir araçtır," demişti. "Ancak sizi ona bağlayan şey, bilgisayarın yaptığı her şeyin sizin kontrolünüz altında olmasıdır."
Ateşi körükleyen şey, Weizenbaum'un MIT'nin askeri araştırma projelerine olan yoğun katılımıyla ters düşen siyasi görüşleriydi . Vietnam Savaşı'nın sert bir eleştirmeniydi ve " makinelerin içinde neler olup bittiği hakkında en ufak bir fikri olmayan subaylar tarafından kullanılan bilgisayarların, hangi köylerin bombalanacağına fiilen karar verdiğini " iddia ediyordu . Matematikçinin kızı Miriam Weizenbaum'un dediği gibi, "Kendini çok yabancılaşmış hissediyordu. MIT'yi esasen Savunma Bakanlığı'nın bir şubesi olarak nitelendiriyordu."
Weizenbaum ayrıca yapay zekanın gözetim teknolojisindeki potansiyel kullanımına da dikkat çekti: "Dinleme makineleri... sesli iletişimin izlenmesini şu an olduğundan çok daha kolay hale getirecek," diye yazdı Computer Power'da . McCarthy ise, Pentagon'un telefon görüşmelerini dinlemek için konuşma tanıma araştırmalarından yararlanacağı yönündeki Weizenbaum'un önerisini "önyargılı, temelsiz, yanlış" ve görünüşte "siyasi kötü niyetle motive edilmiş" olarak nitelendirdi. Patriot Yasası kapsamında hükümet gözetimiyle tetiklenenler de dahil olmak üzere daha yeni tartışmalar, bu tür uygulamaların uzun zamandır teorik olmaktan çıktığını göstermektedir.
Weizenbaum 1977'de New York Times'a verdiği demeçte, "Ben sapkınlık ilan ettim ve ben bir sapkınım" demişti .
Yapay zekanın geleceği
İnternetin yaygınlaşmasıyla birlikte makinelerin insan düşüncesini taklit etme yeteneği gelişti. 1990'larda, Ask Jeeves gibi çevrimiçi uşak ve Turing testine dayalı bir ödül kazanan yapay dilsel internet bilgisayar varlığı Alice gibi sonraki nesil sohbet robotları , bu yetenekleri ortalama bilgisayar kullanıcısının kullanımına sundu.
Daha yakın zamanlarda, OpenAI'nin ChatGPT'si veya Generative Pre-trained Transformer, 2022'de piyasaya sürüldü ve sadece birkaç ay içinde 100 milyon indirme sayısına ulaştı . Günümüzün sohbet botları, internetteki doğal dil ve diğer verilerin büyük miktarlarını işleyebiliyor; bu da onları önceki nesillere göre katlanarak daha yetenekli hale getiriyor. Dil öğrenmenin ötesinde, görüntüler ve videolar oluşturabiliyor ve insan duygularını taklit edebiliyorlar.
Stanford'da yeni teknolojilerin etkisine odaklanan kıdemli araştırma görevlisi Herbert Lin , modern sohbet robotlarını Eliza ile karşılaştırmanın "bir 747'nin Wright kardeşlerin uçağına benzediğini söylemek gibi " olduğunu belirtiyor.
Teknoloji ilerledikçe , insanlar yapay zekanın etkisine daha açık hale geldi. Sohbet robotlarının, aralarında akıl hastalığı geçmişi olmayan kişilerin de bulunduğu kişilerde paranoyak veya sanrısal düşüncelere, hatta şiddet içeren davranışlara ve kendine zarar vermeye yol açtığına dair haberler giderek daha yaygınlaşıyor . İntihar ederek hayatını kaybeden gençlerin ebeveynleri, sohbet robotlarının çocuklarının intihar düşüncelerini nasıl teşvik ettiğinden bahsettiler . Bazı kullanıcılar ise yapay zeka arkadaşlarına aşık oldular .
2025 yılında yapılan bir araştırmaya göre , gençlerin %72'si en az bir kez yapay zekâ destekli bir arkadaşla etkileşime girmiş ve yarısından fazlası bu araçları düzenli olarak kullanmaktadır. Diğer araştırmalar ise sohbet robotlarının duygusal destek veya terapötik amaçlarla kullanımını göstermektedir . Lisanslı danışmanlar, psikologlar ve psikiyatristlerin aksine, bu etkili sanal danışmanlar, büyük şirketlerin güvenlik önlemlerinin güçlendirildiğine dair güvencelerine rağmen, büyük ölçüde denetimsiz kalmaktadır .
Kaliforniya Üniversitesi, Berkeley'de psikiyatrist ve biyoetikçi olan Jodi Halpern , geçen yıl NPR'ye verdiği demeçte, "İnsanlar güçlü bağlar kurabilirler ve botların bunu ele alacak etik eğitimi veya denetimi yok" dedi. "Onlar ürün, profesyonel değil."
Miriam'ın görüşüne göre, babası "insanların kelimenin tam anlamıyla sıfırlara ve birlere, kelimenin tam anlamıyla kodlara bağlanmasının trajedisini anlardı."
Weizenbaum, yaşamı boyunca görüşlerinde son derece tutarlı kaldı. 1988'de MIT'den emekli oldu ve 1996'da Almanya'ya geri döndü. Miriam'ın dediğine göre, Weizenbaum orada "düşünceleri için bir kitle" buldu. ABD'li meslektaşlarından uzaklaşarak "kamuoyu önünde tanınan bir entelektüel" olarak kabul edildi. 2008'deki ölümüne kadar , 85 yaşında, Almanya'da kaldı.
Joseph Weizenbaum 1997'de çekilmiş bir fotoğrafı.
Weizenbaum'un mirası
2008'de bir panelde konuşan Weizenbaum, günlük bilgisayar kullanımında kullanılan yazılım programlarının giderek daha karmaşık hale gelmesini eleştirdi. "Artık kontrolümüz dışında olan karmaşık bir dünya yarattık," dedi. "Artık kimse onları anlamıyor, kimse anlayamaz çünkü yaratılışları hakkındaki bilgileri, yaratılış tarihçelerini kaybettik ve bu insanlık için büyük bir tehlike."
Kendi kariyerinde Weizenbaum'u önemli bir ilham kaynağı olarak gösteren Lin, yapay zekanın giderek artan öngörülemezliğinin de altını çiziyor: "Endişe şu ki, kendi kendini besleyecek ve daha da iyi hale gelecek" diyor. Başka bir deyişle, makine öğreniminin amacı (çok büyük miktarda bilgiyi giderek daha karmaşık bir şekilde işlemek ve sentezlemek) ve kapasitesine dair korku, aynı madalyonun iki yüzü.
Lin, “Büyük programlar anlaşılmazdır… ve eğer bir şeyler anlaşılmazsa, onları artık anlamazsınız,” diye açıklıyor. “Onlara nasıl güvenebilirsiniz? Onlara nasıl dayanabilirsiniz? Ne yaptıklarını nasıl bilebilirsiniz? Bu çok önemli bir konu.”
Miriam, babasının "temel hümanizminin", yeni bilişim yeteneklerinin nasıl kullanılabileceğine dair endişelerinin altında yattığını vurguluyor; bu bakış açısı, savaşlar arası dönemde Avrupa'da büyümekle şekillenmişti. "Bu sadece teknoloji değil; bu, gücün kötüye kullanılması," diyor. İster insan duyguları üzerindeki kontrol, ister askeri operasyonların yürütülmesi olsun, Weizenbaum makinelerin asla insan empatisinin veya yargısının yerini tutamayacağına inanıyordu.
Weizenbaum 1976'da şu uyarıda bulunmuştu: "Şu anda bilgisayarları akıllı hale getirmenin bir yoluna sahip olmadığımıza göre, bilgisayarlara bilgelik gerektiren görevler vermemeliyiz."