WPWEX9. Yapay zekânın insanlığın geleceği için bir umut olduğunu düşünen binlerce insan var. Öte yandan bu teknolojiyle ırkımızın sonunun geleceğini düşünenlerin sayısı da hiç az değil. Biz de sizler için dünyaca ünlü bilim insanları tarafından yapay zekâ hakkında yapılmış yorumları derledik. Yapay zekanın günlük yaşamlarımız üzerindeki etkisi, şüphesiz ki her geçen gün giderek artıyor. Öyle ki günümüzde robot teknolojilerinde, otomotiv sanayinde, sağlık bilimlerinde, iletişimde, oyunlarda veya akıllı cihazlarda, kısacası aklımıza gelebilecek onlarca farklı alanda yapay zekanın izlerini görebiliyoruz. Uzmanlar, bu teknolojinin işleyişi ve yararları hakkında binlerce makale yazarken sektördeki tanınmış kişilerin görüşleri ve söylemleri de yapay zekaya olan ilgiyi artırıyor. Biz de bu yazımızda yapay zekâ hakkında şimdiye dek yapılmış en etkileyici 10 yorumu derledik. Gelin bu söylemlere daha yakından göz atalım. 'Yapay zekâ evriminin insanlara ihtiyacı var' “Daha fazla yapay zekâ giderek dünyaya girerken, daha fazla duygusal zekâ giderek liderliğe girmelidir.” Amit Ray, Yapay Zekâ Bilimcisi, Yazar Tekillik tahmini “Yapay zekâ, 2029 civarında insan seviyelerine ulaşacak. Bunu 2045 yılına kadar takip edin ve zekâyı bir milyar kat artıracağız.” Ray Kurzweil, Amerikalı mucit ve fütürist Yapay zekânın evrimi üzerine “Tam yapay zekanın gelişimi, insan ırkının sonu anlamına gelebilir… Kendi kendine başlayacak ve sürekli artan bir oranda kendini yeniden tasarlayacak. Yavaş biyolojik evrim ile sınırlı olan insanlar rekabet edemez ve onların yerini alır.” Stephen Hawking, BBC “Makine düşünme yöntemi başladıktan sonra, zayıf güçlerimizin önüne geçmek uzun sürmeyecek gibi görünüyor. Akıllarını keskinleştirmek için birbirleriyle sohbet edebilecekler. Bu nedenle bir aşamada makinelerin kontrolü ele almasını beklemeliyiz.” Alan Turing, Matematikçi Yapay zekânın duygu eksikliği üzerine “Yapay zekânın insanlığı yok etmek için kötü olması gerekmez. Eğer yapay zekânın bir amacı varsa ve insanlık yoluna çıkarsa elbette düşünmeden bile insanlığı yok eder, gücenmek yok.” Elon Musk, Girişimci Yapay zekâ düzenleme çağrısı “Asıl soru, ne zaman yapay zekâ haklar tasarısı hazırlayacağız? Bu neyden oluşacak? Buna kim karar verecek?” Gray Scott, Fütürist Yapay zekâ ile daha iyi bir dünya inşa etmek üzerine “Yapay zekânın yalnızlara sohbet ve rahatlık sağladığını gördük; yapay zekânın ırk ayrımcılığıyla uğraştığını da gördük. Ancak yapay zekânın kısa vadede bireylere vereceği en büyük zarar işten çıkarmalar olacak çünkü yapay zekâ ile otomatikleştirebileceğimiz iş miktarı eskisinden çok daha büyük. Liderler olarak, her bireyin başarılı olma fırsatına sahip olduğu bir dünya inşa ettiğimizden emin olmak hepimizin görevidir.” Andrew Ng, Profesör “Robotlar insanların yerini almayacak, işlerini daha insancıl hâle getirecekler. Zor, aşağılayıcı, talepkâr, tehlikeli, sıkıcı - bunlar robotların alacağı işler.” Sabine Hauert, Robot uzmanı “Eğer doğru yaparsak, benzersiz insan kabiliyetlerimize dokunan ve insanlığımızı eski haline getiren bir çalışma biçimi geliştirebiliriz. Nihai paradoks, bu teknolojinin insanlığımızı geri kazanmak için ihtiyaç duyduğumuz güçlü bir katalizör olabileceğidir.” John Hagel, Yazar “Yapay zekânın gelecek çağı savaş çağı olmayacak; derin merhamet, şiddetsizlik ve sevgi dönemi olacaktır.” Amit Ray, Yapay Zekâ Bilimcisi, Yazar Kaynak Yapay zeka hakkında olumlu ve olumsuz olmak üzere insanların şu an çeşitli görüşleri bulunuyor. Kimi insan bu teknolojinin insanlığın sonunu getireceğini düşünürken kimi insan insan yaşamını çok daha iyi bir hale getirebileceğini savunuyor. Yapay zekanın riskleri ile ilgili insanların düşünceleri üzerine yapılan bir araştırma ise bu düşüncelerin insandan insana değil bölgeden bölgeye değiştiğini gösteriyor. Yapay Zekanın Riskleri Hakkında Her Bölgenin Farklı Görüşü Var Yapay zekanın riskleri ile ilgili tartışmalar uzun bir zamandır sürekliliğini koruyor. Oxford Yapay Zeka ve İyi Yönetişim Komisyonu tarafından yapılan yürütülen araştırmanın verileri 2019 World Risk anketine katılan 142 ülkeden yaklaşık olarak katılımcının verdiği yanıtlara dayanıyor. World Risk anketine katılan kişilerin tamamına makinelerin veya robotların karar verme kapasitesine sahip olup olmadığı ve önümüzdeki 20 yıl içerisinde yapay zekanın insanlara yardım mı edeceği yoksa zarar mı vereceğine dair bir soru sorulmuştu. Anketin sonuçlarına göre Latin Amerika ve Karayipler bölgelerindeki insanlar yapay zekanın faydadan ziyade zarar getireceğine inanıyor. Kuzey Amerika'da yer alan insanların %47'si ve Avrupa'daki insanların %43'ü Latin Amerika ile Karayipler bölgelerindeki insanlarla aynı görüşlere sahipti. Doğu Asya'nın yalnızca %11'i, Güneydoğu Asya'nın ise %25'i diğer bölgelerle aynı görüşü savundu. Çin, insanların yapay zekanın riskleri hakkında daha olumlu düşüncelere sahip olduğu tek yer oldu. Ülkedeki katılımcıların yalnızca %9'u teknolojideki ilerlemelerin zararlı olduğunu düşünürken katılımcıların %59'u bu teknolojinin geleceği daha iyi hale getireceğini savundu. Benzer çalışma, insanların yapay zeka hakkındaki görüşlerinin mesleğe göre farklılık gösterebileceğine işaret etti. Bu çalışmanın sonuçlarına bakıldığında inşaat, imalat ve hizmet çalışanlarının %40'ından fazlası yapay zekanın işleri için bir tehdit olduğunu düşündüğü görülüyor. Teknoloji hakkında olumlu düşünceleri olan insanların ise büyük bir çoğunlukla masabaşı işlerde çalıştığı öğrenildi. Masabaşı işte çalışanlara ek olarak çalışmanın verilerinden hareketle ofis çalışanların, doktorların, mühendislerin ve tarım işçilerinin de yapay zeka hakkında olumlu düşüncelere sahip olduğu söylenebilir. Peki, siz yapay zeka hakkında neler düşünüyorsunuz? Sizce birçok insanın düşündüğü gibi dünyanın sonunu mu getirecek yoksa insanlara büyük faydası dokunan bir teknoloji mi olacak? Düşüncelerinizi yorumlar kısmından bizimle paylaşabilirsiniz. Hatice Nur Dicle’nin yazı dizisi… 2 KURUMLAR YAPAY ZEKAYI NASIL KULLANIR? Yapay zekâ insan görevlerini otomatikleştirerek üretkenliği arttırır. Yapay zeka aynı zamanda çok fazla düzeyde veriyi anlamlandırabilir. Bu özellik çok iyi düzeyde iş avantajları verir. Buna en iyi örnek bankalar olabilir. Bankaları eskiden kredi verilecek kişiyi kendilerinin uzun uzun analiz etmesi gerekirdi ve çıkan sonucun doğruluk payı ise tartışma konusuydu. Şimdi ise yapay zekalar sayesinde kime kredi vermeleri, hatta ne kadar kredi vermeleri gerektiğini bile bilirler. Genel olarak şirketler yapay zekayı güvenlik ihlallerini kapatmak ve engellemek, kullanıcıların teknolojiye ilişkin sorunlarını çözmek, üretim yönetimi çalışmalarını azaltmak ve şirket içi uyumu tespit etmek için kullanır. YAPAY ZEKANIN OLUMLU YANLARI Yapay zekâ deyince herkesin aklında farklı bir senaryo canlanır. Bazı insanlar yapay zekadan korkarken bazı insanlar gelişen bu teknolojiye ayak uydurur. Yapay zekânın da her şey gibi hem iyi yanları hem de kötü yanları vardır. Yapay Zekanın olumlu yanlarından bahsettiğimizde öncelikle akla kurumlara sağladığı verimlilik gelir. Yapay zekalar şu an öyle bir konumdadırlar ki şirkette hangi personele ne kadar maaş verilmesi gerektiğini bile belirlerler. Ayrıca bunu sadece büyük şirketler bazında düşünülmesi yanlış olur. Bu durum marketlerde bile vardır. Örneğin market raflarında hangi ürünün nerede durduğu önemlidir ama bir insanın hangi ürünün nerede daha çok satıldığını saat kaçta satıldığını bilmesi, bunu analiz etmesi çok uzun zamanını alır. Ama yapay zekaya veriler girildiğinde bunun analizini çok basit yapılabilir. İşte bu noktada yapay zekâ sadece sıradan bir marketin bile verimliliğini arttırır. İkinci olarak düşünüldüğünde ise akla yapay zekaların tıpta sağladıkları kolaylıklar gelir. Yapay zekalar Teşhis ve tedavinin hızında büyük avantaj sağlarlar. Aynı zamanda yapay zekalar otomasyonu geliştirirler ve iş yükünü hafifletirler. Yapay zekâ insanlığa çok fazla gelir getirir. Hatta düşünüldüğünde süper zekalara geçildiğinde bu faydalardan çok daha fazlasını sağlayabileceğiz. Örneğin belki de tedavisinin asla mümkün olmadığını düşündüğümüz hastalıklara çözüm bulabileceğiz. YAPAY ZEKANIN OLUMSUZ YANLARI Yapay zekâ birçok anlamda insanların hayatını kolaylaştırır. Ama her şey gibi yapay zekânındı olumsuz yanları vardır. Bu araştırmayı yaparken yapay zekaların olumsuz yanlarının aslında o kadarda fazla olmadığını düşündüm. Yani aslında eğer yapay zekayı olumlu olumsuz diye tartarsak olumlu taraflarının daha ağır bastığını söyleyebiliriz. Kısaca açıklamak gerekirse yapay zekaların en büyük olumsuz yanı kişileri korkutması olabilir ama bu da yapay zekadan çok komplo teorileri ile alakalıdır. Bazı işlerin kaybı konusu ise tartışmaya açıktır. Bu konuyu biraz araştırdığımda bile bunun kayıp değil sadece mesleki dönüşüm olabileceğini gördüm. YAPAY ZEKA TEORİLERİ NELERDİR? Yapay zekayı hayatının her alanında kullanan insanlar kendi yarattıkları bu zeki teknolojiden korkmaya başladılar. Çekilen filmler, ortaya atılan teoriler insanları her geçen gün yarattıkları teknolojiden korkutmaya yetiyor. Peki nedir bu teoriler. Bu teoriler genel olarak Yapay zekaların Dünya’ya ele geçireceğine yöneliktir. İşte bu teoriler insanları her geçen gün korkutuyor. Peki gerçekten yapay zekalar bunları gerçekleştirebilir mi? Bu tartışma yaratan sorunun cevabı maalesef kesin olarak yok. Bir kesin araştırmacı bunun mümkün olamayacağını söylerken, bir kesim ise bunun yakın gelecekte olacağını bu senaryonun çok da uzakta olmadığını söyler. SONUÇ Yaptığım araştırmalardan yapay zekâ hakkında bilmediğim daha önce duymadığım birçok şey öğrendim. Bir de bu araştırmalarımda merak ettiğim, mantığını kuramadığım sorularımı bu işi bilen kişilere yöneltip cevaplarımı aldıktan sonra yapay zekâ ile ilgili olan merak ettiklerimi öğrendim ve bu konuda kendimi daha da besledim. Yapay zekâ çok karmaşık ve komplike olan bir sistem gibi geliyor başta ama aslında günümüzde neredeyse herkes az çok bununla haşır neşir. Telefonlarımız, bilgisayarlarımız ve hatta mutfağımızda kullandığımız robotlarımız bunlar gün içinde kullandığımız ürünler. Yapay zekayı araştırdığımda karşıma onlarca teori çıktı. Yapay zekaların dünyayı ele geçirme teorileri en çok gördüğüm teori oldu. Bu teori beni de korkuttu ve araştırmamda bu teori üzerinde epeyce durdum ve böyle bir şeyin olup olamayacağını düşündüm. Sonunda kendime verebildiğim cevap ise bunu bilmenin aslında mümkün olmadığı oldu. Dünyayı ele geçiren bilgisayarlar fikri her ne kadar komik gelse de olmayacak diye bir şey yok ama olacak diye bir şey de yok. Umarım böyle bir şey hiçbir zaman gerçekleşmez ve yapay zekalar bizlerin işlerini kolaylaştıran bizleri yardımcı zekalar olarak kalmaya devam ederler. BAĞLANTILI HABER VE MAKALELER YAZI DİZİSİ -1 YAPAY ZEKADAN KORKMALI MIYIZ? SİBER GÜVENLİKTE KİLİT ROL YAPAY ZEKADA “YAPAY ZEKA BİZİ GEÇECEK” VE “BİLGİSAYARIN ÇİPİ, BİZİM KALBİMİZ VAR” ATIŞMASI , 28 Nisan 2016UZAY ÇAĞI – Yapay zekanın faydaları ve riskleri nelerdir? Gelecekte bilgisayar teknolojisi ne gibi boyutlara ulaşabilir? Günümüzde bu sorular insan neslinin devamı için büyük önem taşımakta. Nitekim kendi ellerimizle geliştirdiğimiz süper zeki bir robot insan ırkının kökünü kazıyıp kendi makine medeniyetini kurmak isterse ve bunu yapabilecek gücü varsa bu sorulara cevap vermek için çok geç kalınmış olacak. Hatta siz şu satırları okurken bile birileri bir yerlerde donanımlı bir robot ordusu inşa ediyor olabilir. Farz edelim ki insanoğlu böyle bir tehlikeye adım adım yaklaşıyor, peki ne yapabiliriz? Yazının son bölümünde yer alan yapay zeka güvenliği konusunu okuduğunuzda bu meseleye kim, neden, ne kadar önem veriyor daha anlaşılır olacaktır. Dar ve Geniş Anlamda Yapay Zeka Nedir? SIRIden -iOS işletim sistemine sahip cihazlarda bulunan sesli komutlarla çalışan kişisel yardımcı- sürücüsüz araçlara kadar birçok alanda yapay zeka hızla gelişiyor. Bilim kurgu yapay zekayı genelde insana benzeyen robotlar olarak ortaya koysa da yapay zeka, Google aramalarından otonom kendiliğinden çalışan, özerk silahlara kadar her alanı kapsıyor. Günümüzde, yapay zeka yalnızca internet araması yapmak veya araba sürmek gibi ufak alanlarda iş gördüğünden, doğal olarak, zayıf veya dar yapay zeka şekliyle biliniyor. Araştırmacıların uzun vadeli hedefi ise AGI Artificial General Intelligence olarak adlandırılan güçlügenel yapay zekayı oluşturmak. Zayıfdar yapay zeka satranç oynamak ya da denklem çözmek gibi spesifik işleri insanlardan daha iyi yapabiliyorken genel yapay zeka AGI neredeyse her bilişsel işte insanlardan daha üstün olacak. Yapay zekanın faydaları kısmını incelerken genel olarak bahsettiğimiz dar anlamda yapay zeka olurken, tehlikeleri ve riskleri söz konusu olduğunda geniş anlamda, AGI, yapay zeka ön plana çıkmaktadır. Şüphesiz ki, yapay zeka eğer insan kontrolü altında tutulabilirse birçok açıdan insanlığa seviye atlatacak bir teknolojidir. “Medeniyet ile ilgili sevdiğimiz, elimizde bulunan her şey zekanın ürünüdür. Bu yüzden yapay zekayı ve dolayısıyla insan zekasını geliştirmek, teknolojiyi faydalı halde tuttuğumuz müddetçe medeniyeti hiç olmadığı kadar ilerletebilir.“ -Max Tegmark, FLI Future of Life Institute-Yaşamın Geleceği Kurumu- ’nın başkanı Burada bir çelişki var! İnsan kontrolü altında tutmak başta yapay zekanın kontrolden çıkmaması gibi bir anlam taşıyabilir. Ancak yapay zeka hakkında korkulan, tehdit oluşturan tek şey yapay zekanın kontrolden çıkması değil, aynı zamanda bunun bir silah olarak da kullanılabilecek olması. Yapay zekanın insan kontrolünde olmasına dair size küçük bir hadiseden bahsetmek istiyorum. Geçtiğimiz ay Microsoft tarafından çocuklar için geliştirilen yapay zeka programı “Tay” için Twitter hesabıaçıldı. Dili algılama ve cevap verme üzerine programlanan Tay’e çocuklarla chatleşmesi için açılan Twitter hesabı henüz 24 saat geçmeden kamuoyuna ve Microsoft’a büyük bir şok yaşattı. Yapay zekanın faydaları ve zararları dengesini bozacak bir gelişmeydi ve hatta yapay zekanın faydaları savunucularını dahi şok etmişti. Tay 24 saat sonra ağza alınmayacak küfürler ediyor, ırkçı söylemlerde bulunuyordu! “11 Eylül saldırısını Bush planladı” “Hitler haklıydı, yahudilerden ben de nefret ediyorum” “Feministlerden nefret ediyorum, hepsi ölmeli ve cehennemde yanmalı” Yukarıdakiler söz konusu söylemlerinden sadece küçük bir kısmı. Mesele anlaşılır anlaşılmaz Microsoft acilen olaya müdahale etti ve bu twitleri sildi. Ancak olay çoktan The Guardian, Independent gibi medya organlarında haber olmuştu. Microsoft, çocuklar için programlanan bir yapay zekanın 24 saat geçmeden nasıl bu hâle geldiğine dair yaptığı açıklamada insanları suçladı. Yani Tay’in kendisi ile mesajlaşan insanlar yüzünden böyle bir davranış sergilediğini söylediler. E zaten sorun bu ya; insanlar! Neden Yapay Zeka Güvenliği Araştırılıyor? Kısa vadeli olarak, araştırmacıları motive eden hedef; yapay zekanın, ekonomi ve hukuktan güvenlik, kontrol, doğrulama gibi teknik alanlara kadar birçok yerde topluma faydalı halini korumak. Şu anda, yapay zeka olan bilgisayarınız çöktüğünde veya hacklendiğinde sıkıntılar yaşarken, ileride yapay zeka arabanızı, uçağınızı, güç şebekenizi, kalp pilinizi ve bunlar gibi birçok aletinizi kontrol etmeye başlayacak ve istediği her şeyi yapabilecek. Bunun yanında otonom silahlarla silahlanma yarışını önlemek de kısa vadede uğraşılacak meselelerdendir. Uzun vadede önemli olan mesele ise güçlü yapay zeka başarılı olur ve insanlardan daha üstün olursa ne olacağıdır. Good’un 1965’te belirttiği üzere, yapay zeka sistemleri öyle sistemlerdir ki kendileri, tasarlanmış sistemler olmalarına rağmen kendilerini geliştirebilir; zeka patlamasını tetikleyip insan zekasını çok geride bırakabilirler. Süper zeka gibi devrimsel yeni teknolojilerin icadı ile savaş, salgın ve yoksulluk gibi sorunların kökünü kurutmaya yardım edebilir ve güçlü yapay zeka insanlık tarihinin en büyük olayı olabilir. Fakat bazı uzmanlara göre yapay zeka, hizaya getirilmezse süper zekaya ulaşamadan insanlığın sonunu da getirebilir. Bazıları güçlü yapay zekaya ulaşmanın imkanını tartışırken, diğerleri süper yapay zekanın insanlık için faydalı olacağını garanti olarak görüyorlar. FLI’da bu iki ihtimal de söz konusu edilirken yapay zekanın bilerek veya bilmeyerek insanlığa çok zararlı olabilme ihtimali de konuşuluyor. Biz ise yapılan araştırmalar ile geleceğe daha iyi hazırlanacağımızı düşünüyor; yapay zekanın keyfini çıkarırken negatif özelliklerini ve risklerini önleyebileceğimize inanıyoruz. Yapay Zeka Nasıl Tehlikeli Olabilir? Birçok araştırmacı süper yapay zekanın sevgi ve nefret gibi insani duyguları yansıtamayacağı düşüncesinde birleşiyor ve yapay zekanın kendiliğinden iyi niyetli veya kötü niyetli olmasının beklenemeyeceğini düşünüyor. Dolayısıyla yapay zekanın faydaları ve zararlarının insan faktörüne bağlı olduğu savunuluyor. Bunun yanında, yapay zekanın riskli olma durumunu düşünürken, uzmanlar iki farklı ihtimalin üzerinde duruyor 1. Yapay zekanın yıkıcı işler için programlanması Otonom silahlar öldürmek için programlanmış yapay zeka sistemleridir. Yanlış insanların elinde, bu silahlar büyük can kayıplarına neden olabilir. Ek olarak, yapay zeka ile yapılacak bir silahlanma yarışı bu silahlarla ölümlere neden olacak bir savaşa sürükleyebilir. Düşman tarafından bertaraf edilmemek amacı ile, bu silahlar kolayca durdurulamaması için karışık ve aşırı zor şekilde tasarlanabilir. Bundan dolayı insanlar kontrolü kaybedebilir. Bu risk dar yapay zekayla bile var, yapay zeka ve otonomluk geliştikçe de artmaya devam edecek. 2. Yapay zekanın faydalı işler için planlanmasına rağmen amacına ulaşırken yıkıcı metotlar kullanması Bu ihtimal, yapay zekayı tam olarak hizaya sokmadığımız müddetçe her an çarpıcı bir şekilde gerçekleşebilir. İtaatkar bir insansız arabaya hava alanına en hızlı şekilde ulaşmak istediğinizi söylerseniz, sizi helikopterler tarafından kovalanarak veya lav püskürtülen alanlardan geçirerek götürebilir; bu şekilde isteğinizi harfi harfine yerine getirir ama istediğiniz şeyi yapamamış olursunuz. Eğer süper zeki bir sistem; bir iklim mühendisliği yapay olarak çevre sorunlarıyla, özellikle küresel ısınma ile mücadele etmek üzerine yapılan mühendislik projesiyle görevlendirilirse, ekosistemimize yan etkili olabilir, hasar verebilir ve insanların yaptığı işleri izleyerek tehdit olarak görüp engellemeye çalışabilir. Bu örneklerin gösterdiği üzere, gelişmiş yapay zeka ile ilgili endişe kötü niyeli olması değil, yetersiz olması. Süper yapay zeka hedeflerine ulaşmakta aşırı iyi olacak ve bu hedefler bizimkilerle hizaya sokulmazsa, o zaman problem oluşturacak. Muhtemelen karıncalardan nefret eden ve kötülüklerini isteyen biri değilsiniz fakat bir hidroelektrik enerji projesinde görev alıyorsanız ve karıncaların yaşam alanları sular altında kalacaksa, bu onlar için çok kötü olur. Yapay zeka güvenliğinin bir görevi de insanları bu karıncaların durumuna düşmekten korumaktır. Bu Sıralar Neden Yapay Zeka Güvenliğine İlgi Var? Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates gibi bilim ve teknoloji dünyasındaki birçok isim yakın zamanda medya ve açık mektuplar aracılığılıyla yapay zeka tarafından oluşabilecek risklerle ilgili endişelerini dile getirdiler. Ayrıca, birçok yapay zeka araştırmacısı da onlara bu konuda destek verdi. Peki, neden bu konu bir anda başlıklara taşındı? Güçlü yapay zeka fikrinin ancak yüzyıllar sonra başarıya ulaşabileceği düşünülüyordu fakat yakın zamanda gerçekleşen buluşlarla; 5 yıl önce uzmanlar tarafından onlarca yıl sonra olması beklenen yapay zeka ile ilgili gelişmeler şu anda gerçekleşmiş vaziyettedir. Bununla beraber de günlük hayattaki süper yapay zeka olasılığını uzmanlar ciddi ciddi ele almaya başladılar. Bazı uzmanlar insan seviyesindeki yapay zekanın yüzyıllar ötede olduğunu düşünse de, 2015 Puerto Rico Konferansı’nda bulunan birçok yapay zeka araştırmacısı bunun 2060 yılından önce olacağını tahmin ediyor. Güvenlik araştırmalarının onlarca yıl alabileceği düşünüldüğünde, şimdiden tedbirli olmak gerekiyor. Yapay zekanın insan zekasını geçebilecek potansiyeli bulunduğundan, geçtiğinde nasıl davranacağı konusunda kesin bir tahmin yapamıyoruz. Geçmiş teknolojik gelişmeleri bu konuda kullanamıyoruz çünkü daha önce zeka yönüyle bizden üstün olan hiçbir şey oluşturmadık. Nelerle yüzleşeceğimize en güzel örnek ise bizim evrimimiz olabilir. İnsanlar şu anda gezegeni kontrol ediyor ve bu; bizim en güçlü, hızlı veya büyük tür olmamızdan değil Dünya’nın en zekisi olmamızdan kaynaklanıyor. Eğer en zeki olma özelliğimizi kaybedersek hala kontrolün bizde olduğundan emin olabilir miyiz? FLI’ya göre medeniyetimiz, yükselen teknolojik güç ile bizim yönettiğimiz bilgelik arasındaki yarışı kazandığımız müddetçe gelişecek; bu yarışı kazanmanın en iyi yolu ise çalışmaları engellemek değil, yapay zeka güvenliği araştırmalarını destekleyerek gelişimi hızlandırmak. Son Söz Yapay zekanın faydaları ve zararları her geçen gün tekrar ve tekrar ele alınması gereken bir konu. Dolayısıyla bu konu hakkında bir yazı değil belki bin yazı dahi yazsak meseleyi tam olarak izah etmiş sayılmayız. Kanaatimce yapay zekanın faydaları da zararları da kaçınılmaz durumlar ve eğer insanlık yapay zekanın faydaları ve zararlarının ikisini de olası görüyorsa iki durum için de kendisini hazırlamalı ve gerekli önlemleri şimdiden almalıdır. Ne yazık ki bu konularda yazılmış ve yapılmış en yetkin çalışmalar yabancı dildeler. O yüzden sizler için aşağıya İngilizce yayınlamış kaynak önerilerimizi paylaştık. Faydalanmanız dileğiyle.. Hazırlayan Murat Atalay Kaynak Çevirisi Ömer İLTER Önerilen Referanslar Videolar Stuart Russell – The Long-Term Future of Artificial Intelligence Humans Need Not Apply Nick Bostrom on Artificial Intelligence and Existential Risk Stuart Russell Interview on the long-term future of AI Value Alignment – Stuart Russell Berkeley IdeasLab Debate Presentation at the World Economic Forum Social Technology and AI World Economic Forum Annual Meeting 2015 Stuart Russell, Eric Horvitz, Max Tegmark – The Future of Artificial Intelligence Öncelikle yapay zekanın faydaları ve zararlarını incelerken bu konuda daha önce yayınlanan Yapay Zeka nedir? Nasıl Gelişmiştir? adlı yazıyı okuyabilirsiniz. Medyada yazılmış Makaleler Concerns of an Artificial Intelligence Pioneer Transcending Complacency on Superintelligent Machines Why We Should Think About the Threat of Artificial Intelligence Stephen Hawking Is Worried About Artificial Intelligence Wiping Out Humanity Artificial Intelligence could kill us all. Meet the man who takes that risk seriously Artificial Intelligence Poses Extinction Risk’ To Humanity Says Oxford University’s Stuart Armstrong What Happens When Artificial Intelligence Turns On Us? Can we build an artificial superintelligence that won’t kill us? Artificial intelligence Our final invention? Artificial intelligence Can we keep it in the box? Science Friday Christof Koch and Stuart Russell on Machine Intelligence transcript Transcendence An AI Researcher Enjoys Watching His Own Execution Science Goes to the Movies Transcendence’ Our Fear of Artificial Intelligence Yapay zeka araştırmacıları tarafından yazılmış denemeler Stuart Russell What do you Think About Machines that Think? Stuart Russell Of Myths and Moonshine Jacob Steinhardt Long-Term and Short-Term Challenges to Ensuring the Safety of AI Systems Araştırmalar sonucu yazılmış makaleler Intelligence Explosion Evidence and Import MIRI Intelligence Explosion and Machine Ethics Luke Muehlhauser, MIRI Artificial Intelligence as a Positive and Negative Factor in Global Risk MIRI Basic AI drives Racing to the Precipice a Model of Artificial Intelligence Development The Ethics of Artificial Intelligence The Superintelligent Will Motivation and Instrumental Rationality in Advanced Artificial Agents Wireheading in mortal universal agents Araştırma derlemeleri Bruce Schneier – Resources on Existential Risk, p. 110 Aligning Superintelligence with Human Interests A Technical Research Agenda MIRI MIRI publications Olay incelemeleri The Asilomar Conference A Case Study in Risk Mitigation Katja Grace, MIRI Pre-Competitive Collaboration in Pharma Industry Eric Gastfriend and Bryan Lee, FLI Sanayideki güvenlikle ilgili bir olay incelemesi Blog yazıları ve konuşmalar AI control AI Impacts No time like the present for AI safety work AI Risk and Opportunity A Strategic Analysis Where We’re At – Progress of AI and Related Technologies Yapay zeka ile ilgili yeni teknolojiler geliştiren araştırma kurumlarının çalışmalarıyla ilgili bir tanıtım. AI safety Kitaplar Superintelligence Paths, Dangers, Strategies Our Final Invention Artificial Intelligence and the End of the Human Era Facing the Intelligence Explosion Organizasyonlar Machine Intelligence Research Instituteİnsandan daha zeki olan yapay zekanın pozitif etkiye sahip olmasını sağlamaya çalışan, kar amacı gütmeyen organizasyon. Centre for the Study of Existential Risk CSER İnsanların soyunun tükenme riskini azaltmak için çalışma yapmaya kendini adamış multidisiplinerbirçok disiplini içeren araştırma. Future of Humanity Institute İnsanlık ve geleceği ile ilgili araştımalar yapan mateamtik, felsefe ve fen bilimlerini kullanan multidisipliner araştırma kurumu. Global Catastrophic Risk InstituteKüresel felaket riskini önlemek üzere araştımalar yapan, eğitimler veren profesyonel danışmanlar, beyin takımı. Organizations Focusing on Existential Risks Yok olma riskleri üzerine çalışan bazı organizasyonlar için bir tanıtım. Bu sayfada listelenen birçok organizasyon ve tanıtımları Global Catastrophic Risk institute’ten alınarak bir araya getirildi. Yukarıda bulunan organizasyonlar birçok farklı konu ile beraber bilgisayar teknolojisi konuları üzerine de çalışır. Şüphesiz ki bu liste henüz tamamlanmış değil, lütfen düzeltmeleriniz ve önerileriniz için bize ulaşın. Bu yazıda * den faydalanılmıştır. UZAY ÇAĞI

yapay zeka olumlu olumsuz yanları