Deep Blue'dan yirmi yıl sonra, AI bizim için ne yapabilir?

11 Mayıs 1997'de bir bilgisayar şunu gösterdi: Bir insanı, peşinde koşan insanların en çok insanı olan bir sınıfın üstesinden gelebilir: oyun oynamak. İnsan, Dünya Satranç Şampiyonu Garry Kasparov'du ve bilgisayar, Carnegie Mellon Üniversitesi'nde ChipTest adında bir sistem olarak hayata başlayan IBM'in Deep Blue'ydu.

Deep Blue'nun yaratıcılarından Murray Campbell, IDG News Service hakkında konuştu. Bilgisayarların, insanlar kadar iyi ya da ondan daha iyisini yapmayı ve diğerlerinin geleceğimiz için ne anlama geldiğini öğrenir. Aşağıdakiler bu konuşmanın düzenlenmiş bir versiyonudur.

IDGNS: Siz ve Deep Blue'nun IBM'e aynı zamanda katılmaları doğru mu?

[Daha fazla okuma: En iyi TV yayın hizmeti]

Murray Campbell: Not kesinlikle doğru. Kendim de dahil olmak üzere bir grup, 1989 yılında Pittsburgh'daki Carnegie-Mellon Üniversitesi'nden IBM'e katıldı, ancak yaklaşık bir yıl kadar Deep Blue ismiyle gelmedik.

IDGNS: Ve Deep Blue'yu tam bir bina yapıyordu. - zaman mesleği

MC: 1997'den bu yana, dünya şampiyonu olan işimden bu yana, Deep Blue'yu inşa etmek ve geliştirmek için katıldım.

IDGNS: Deep Blue'nun Kasparov'u yenmesinin nedenlerinden biriydi. Bir şekilde onu tuhaf bir hamle yapmasına neden olan bir hata vardı.

MC: Bu geçerli bir teori olup olmadığından emin değilim. Ne oldu, maçın ilk maçının sonunda, Deep Blue'nun kaybedilmesi hedeflendi. Kaybedici bir pozisyon vardı ama oyun oldukça uzun bir süredir devam edebilirdi. Kasparov, pozisyonu nasıl kazanacağını bildiğini kanıtlamak zorunda kalacaktı, tabii ki eminim ki yapabiliyordu. Fakat Deep Blue, bir hata yüzünden rastgele bir hamle yaptı ve rasgele hareket özellikle kötü bir hamleydi, ve Kasparov yanıt verir vermez Deep Blue için istifa ettik.

Bir noktada bunun neden olduğu bazı söylentiler vardı. Kasparov'un Deep Blue'nun satranç oyununda yapamayacağı ve yapamayacağına dair iyi bir resmi yok. Ben sadece spekülasyon olduğunu düşünüyorum.

IDGNS: Böcek nasıl ortaya çıktı? Neye sebep olduğunu anlayabildin mi?

MC: Evet, bunu çözdük ve tamir ettik, her ne kadar ikinci maçtan sonra düzeltemesek de, bu yüzden oyunda da iki tane vardı. Tabii ki, o zaman gerçekleşmedi: Çok enderdi.

Sadece belli şartlar altında ortaya çıktı: Deep Blue'ya, bir hareketi hesaplamak için bir zaman tahsis edildi ve eğer zamanın belirli bir şekilde tükenmesi durumunda, Rastgele bir hamle yapmasına sebep olabilir. Bu hatayı birkaç ay önce görmüş ve düzeltmiştik. Sanırım beş yoldan dördü düzeltebilirdik ama bir tanesini kaçırdık. Tabii ki, bir dünya sahnesinde, tekrar ortaya çıktı.

IDGNS: Bu maçtan bu yana, DeepMind'in Alpha Go'nun dünyanın en güçlü oyuncularından bazılarını aldığını gördük ve IBM'in Watson'u Tehlikeli şampiyonlar. AI'nın hazır olduğu bir sonraki büyük zorluklar nelerdir?

MC: Masa oyunları AI'ya çok iyi hizmet verdiler, hem satranç hem de git, ama bence masa oyunları az ya da çok günlerini geçirdi. Daha gerçek dünya sorunlarına, kendileri için daha fazla karmaşıklığa sahip sorunlara geçmeye. Satranç gibi oyunlar çok iyi tanımlanmış: Her şey tam önünüzde, tüm bilgilerin var, tam olarak hangi hareketlerin mümkün olduğunu biliyorsunuz, ne gibi bir eşleştirici gibi görünüyor ve biliyorsunuz.

Gerçek dünya öyle değil: Her dönüş yolunda karmaşıklık var. Baktığımız zorluklara ve sorunlara bazı ek karmaşıklıklar eklemeliyiz.

Bilgisayar oyunlarında hala ilginç zorluklar var. Örneğin, kısa bir süre önce bir programın pokerde bir grup insan profesyonelini dövdüğünü gördüm ve bu ilginç bir şey çünkü biz de bu kusurlu bilgiyi ekledikçe, rakiplerinizin kartlarını bildikleri gizli bilgileri saklıyor ama siz istemiyorsunuz. Yani bu karmaşıklık eklemenin bir yolu. Başkaları var.

Ancak, uzun vadede, insanlardan daha iyi ya da daha iyi yapabileceğimiz bir sistemi yaratmaya çalıştığımız yerde değil, insanları gerçekten ilginç bir şekilde tamamlayan ve insanların karar almasına yardımcı olan sistemler olmasını istiyoruz.

Satrançta, en azından başlangıçta Deep Blue ile hedefimiz, dünyanın en iyi oyuncularının yanı sıra oynayabilecek bir sistem inşa etmenin mümkün olduğunu kanıtlamaktı. Yolda, satranç oynayan bu sistemi satranç oynamanın insan yolundan tamamen farklı bir şekilde inşa ettik. İnsan yaklaşımının güçlü yanları ve zayıf yönleri olduğu ve kullandığımız bilgisayar yaklaşımının güçlü ve zayıf yönleri olduğu aşikardı. İkisi birlikte birleştirmek aslında tek başına ya da tek başına bir bilgisayardan daha iyi olabilen bir oyuncu üretmek için oldukça hızlı bir şekilde gösterildi.

Yirmi yıl sonra hala doğruydu, bu yüzden öğrendiğimiz dersin geçerli olduğunu düşünüyorum. Pratik olarak düşünebildiğimiz her gerçek dünya problemi.

Örneğin, sağlık hizmetlerinde, bir hekim bir hastaya bakabilir, tanı koyabilir ve tedavi görebilir. Fakat eğer problemi kendilerinden farklı bir şekilde düşünen, farklı becerilere sahip, yeni tıbbi literatüre ve devam etmekte olan tüm uyuşturucu araştırmalarına bakabilecek ve insan uzmanı, hekim tarafından alternatif tanı veya alternatif tedaviler üretebilecek bir asistan varsa düşünebilir, kabul edebilir veya reddedebilir mi? Düşüncelerini genişletmelerine ve bununla birlikte, tek başlarına olduğundan daha yüksek bir performans seviyesine ulaşmalarına izin verir.

IDGNS: Bu artırılmış istihbarat sisteminin avantajlarından biri, en sonunda doktorun kararını vermesidir, Sorumluluğun yattığı hukuki amaçlar için açık mı?

MC: Bazen sorunlar yaşam ya da ölüm değildir. Birisine bir film veya kitap öneren bir sistem kurmaya karar verirseniz, bir hata yaparsanız dünyanın sonu değildir, oysa bazı kararlar gerçekten önemlidir. Gelecek on yıllar boyunca, bu kararlar hakkında son sözü söyleyen insanlara öneride bulunmalıyız. Ama daha mantıklı olanlar, makul alternatifler ve bu alternatiflerin avantajları ve dezavantajları hakkındadır, herkesin daha iyi olacağını düşünüyorum.

IDGNS: Bugünü Deep Blue'da buldunuz, fakat en yeni nesil yapay zeka daha çok görünüyor Derin Mavi'den daha zor ve denetlenmesi daha zor: Göz önünde bulundurulan hamlelerin arama ağacının üzerinden geriye bakamazsınız ve bize doğru cevabı verdiklerini, özellikle de bahsettiğiniz gerçek dünya sorunlarına bakamazsınız.

MC: Bugün AI'daki en kritik problemlerden biri. Derin öğrenmeye, problemler konusunda eğitilmiş büyük sinir ağlarına dayanan başarıların bazılarını gördük ve inanılmaz derecede faydalı olduklarını, ancak büyük kara kutuların olduklarını gördük. Kendilerini şu anda yararlı bir şekilde açıklamıyorlar.

Bunu değiştirmeye çalışan araştırma projeleri var, ama örneğin, bir sinir ağına dayanmayan, ancak milyarlarca büyük bir aramada bulunan Deep Blue bile. olasılıkların, neden yaptığı hamleleri tam olarak neden yaptığını tam olarak tarif etmenin hiçbir faydası yoktu. Bunu neden tavsiye ettiğini anlamak için bir Deep Blue tavsiyesi verilmiş olsaydınız çok fazla iş yapmak zorunda kalacaktınız. Ve bunun modern AI sistemleri için de geçerli olduğunu düşünüyorum. Çalıştığım grupta, temel araştırma problemlerinden biri, AI'nın yorumlanabilirliğidir ve kendilerine açıklanmasına izin vererek, bahsettiğim zenginleştirilmiş istihbarat sistemlerinin, sistemin insan kararına ilişkin gerekçelerini açıklayabildiği durumlarda daha etkili olabileceğini düşünürler.

IDGNS: Buna hangi yaklaşımları uyguluyorsunuz?

Makine öğrenimini, kendisini tanımlayan makine öğrenimini kullanan yaklaşımlar var. Kararları veren ya da size bir tahminde bulunacak bir sisteminiz var, ve belki de çok fazla işin bedeli, bu kararların her biri için gerekçenin ne olduğunu anladığınızı, bunun neden iyi bir karar olduğunu ya da neden bir insan-anlaşılabilir nedeni Bu karar verildi. Daha sonra, bir sürü karar ve açıklama örneği verilmiş, yararlı açıklamalarla gelmeyi öğrenebilecek bir sistem kurabilirsiniz. Bu bir yaklaşım.

Kurallar, insanlar için çok sezgisel olduğundan, dikkate alınabilecek kurallara dayanan daha yorumlanabilir sistemler kullanan bazı standart makine öğrenimi yaklaşımları vardır. Kurallar ile çalışabilirler: Sıcaklık bundan daha büyükse ve nem böyle bir şey ise, rahatsızlık duyacaksınız.

Sınırlar var. Bu gerçek dünya sorunlarından bazıları, basit bir kural kümesinin yeterli olmadığı kadar karmaşıktır ve bence bu, bu kadar çok insanın baktığı önemli bir araştırma konusu. Doğru ama aynı zamanda yararlı olan açıklamalarla gelmeye çalışıyor. Bu ticaret, baktığımız şeydir.

IDGNS: Yasal sorumluluk düşüncesine daha önce değindik. Bu açıklamaları yeterince güvenilir kılmak ve AI sisteminin mantıksal bir süreçte güvenebileceği gerekçesiyle bağlantılı olarak yapılmış herhangi bir çalışma var mı?

MC: Bu benim bilgimin ötesinde bir soru. Yasal çerçeve, ama benim düşüncem var ki, kararlar için, sonuçta gelecek onlardan sorumlu olmak için insanlara ihtiyacımız var. Bir bilgisayardan alınan öneriler, bu tavsiyelerin açıklamalarıyla birlikte, yararlı araçlardır, ancak bunlar yalnızca araçlardır ve sonunda bir karar vericinin sorumluluk alması gerekir.

IDGNS: Bize yaklaşımları anlat Bilgisayarların insanlarla çalışmasına yardımcı olmak için mi çalışıyor ve hangi alanlarda kullanılabiliyor?

MC: Sağlık hizmetleri hakkında biraz konuştuk. Size belirli bir örnek vereyim. Derin öğrenme yaklaşımlarını kullanarak, IBM'de cilt kanseri için bir görüntü tanıma sistemi geliştirdik, bu nedenle, ciltte bir lezyonun bir fotoğrafı verildiğinde, bu lezyonu çok yüksek doğrulukla sınıflandırmak veya tanımlamak mümkün olacaktır. İnsan uzmanlarından daha yüksek doğruluk.

Ama hastanın tam bağlamını anlamıyor, bu yüzden bu, doktor için sağlanması gereken tek bir bilgidir. Hastayı şahsen görüyorlar, tarihlerini görüyorlar ve öneriyi görüyorlar, "Bu lezyonun yüzde 85'i kanser olma şansı var, biyopsi yapılmalı." Bu tavsiye, ama doktor, "Ah, bu durumda iyi bir sorun olmadığını biliyorum çünkü…." Bu bir örnek.

Başka bir konuya ilgi duyduğum şey, "yaşlanma yerinde" dediğimiz şey. Yaşlanan nüfusun evini sensörler, şeylerin teknolojilerinin interneti ile donatıyorsunuz ve daha sonra, bir problemi gösterebilecek anormal davranışlara dair uyarı işaretleri arayan bu sensörleri izleyen AI temelli sistemlere sahip oluyorsunuz ve bunu bakım verenlerin dikkatine sunuyoruz.

Bugün dünyadaki en büyük açıklardan biri, dikkatimizi nereye odaklayacağımızı bilmiyoruz. Önemli olan şeylere dikkatimizi odaklamamıza yardımcı olabilecek bir sistemimiz olsaydı, o kadar çok bilgi vardı ki, bu da işbirlikçi bir sistem kurmanın harika bir yolu olurdu.

IDGNS: En çok sizi heyecanlandıran şey nedir? Hayatınızda en büyük etkiye sahip olacağınızı düşündüğünüz andaki AI alanı hakkında?

MC: İnşallah yaşlandığım esnada yaşlanma sistemi çok detaylı bir şekilde işlendi ve bende bunun avantajı

AI ilerledikçe, şu anda sınırlı bir biçimde var olan sistemlerin bir kısmı gerçek dünyada çok daha faydalı hale gelecektir.

Tüm derinlerde gördüğüm en büyük problemlerden biri. öğrenme patlaması, daha algısal olduğunu söyleyebildiğiniz sorunlara odaklanma eğilimindedir: Bir görüntü veya ses klibi veya bir şey alırsınız ve görüntüyü sınıflandırırsınız veya bu ses klibinden gelen metni üretersiniz.

gerçek çok aşamalı akıl yürütme ve planlama ve stratejik düşünme şu anda bu AI sisteminin büyük bir gücü değildir s, insanların geldiği yer burasıdır. Daha önce AI sistemlerinin insanların önemli olan konulara odaklanmasına nasıl yardımcı olabileceğini söylemiştim :; İnsanların AI sistemlerini problemlere bakma ya da orada yararlı bir şey olduğu sezgilerinin olduğu yönlere bakma üzerine odaklanabileceğini düşünüyorum.

İşte bu on yıl içinde gelişen bu sistemleri görüyorum, insanlar becerilerini karışıma taşıyorlar. becerilerini getiren ve birlikte çalışan makineler. Görüyorum ki, hemen hemen her alanda, sağlık hizmetinde, eğitimde, yaşlanmada yaşanıyor, siz ismini verin.

IDGNS: İşyerinde AI sistemi kuruyorsunuz, fakat işinizde size yardımcı olmak için AI sistemlerini kullanıyor musunuz?

MC: Bir araştırmacı olarak, araçları kullanıyorum; Web aramalarını kullanıyorum ve ortaya çıkan teknik belgelere bakmama yardımcı olan ve üzerinde durmam gerekenleri tanımlamaya yardımcı olacak araçlara sahibim. Ama ilginç sorular sormaya gelince, ne üzerinde çalışmalıyım ve araştırma yapmam gereken en karlı ya da en olası yönleri tespit etmeliyim, bana gerçekten yardımcı olabilecek bir araç görmedim. Açıkçası, bu benim işimi daha iyi yapmamda bana yardımcı olacak AI araçlarını geliştirebilseydim, araştırmacı olarak beni daha verimli hale getirecek harika bir proje olurdu.

IDGNS: Belki de bu bir sonraki büyük meydan okuma olacak mı?

Bu kesinlikle onlardan biri, belki de herkesin orada düşündüğü şey değil, çünkü her gün milyonları ve hatta milyarlarca insanı etkileyen pek çok gerçek dünya problemi var. Fakat AI'da çalışan topluluk için, bilgi sahibi olan herkes gibi su altında kalıyoruz. Her gün çıkan teknik makale sayısı beş yıl öncesine kıyasla oldukça şaşırtıcı ve herkes gibi yardıma ihtiyacımız var.