Егер сіз бүкіл жасанды интеллектуалды жазбаны ала алмасаңыз, онда сізге бірнеше фактіні білу қажет.(Сурет: Шан Шихан / Flickr) Биылғы жылы алғаш рет компьютер адам білетін ең күрделі ойындардың бірі - Го әлем чемпионын жеңді. Бұл жасанды интеллекттің дамуындағы тағы бір маңызды сәт болды.
Сізге Go-дің қаншалықты күрделі екендігі туралы түсінік беру үшін тақтаның 2.082 × 10 ^ 170 конфигурациясы болуы мүмкін. Бұл одан кейін 170 нөлмен 2. Мүмкін, сіздің миыңыз тіпті үлкен санды қабылдай алмайды (бірақ компьютер жасай алады). Немесе санның үлкендігі туралы түсінік беру үшін бұл яғни, әлемде бар-жоғы 10 ^ 80 атом бар, яғни біреуі 79 нөлге ұласады.
Мұның үлкен себебі - Go-дің өте күрделі екендігі, ең жақсы адам ойыншысын жеңу үшін машина барлық жағдайларды есептей алмай, шығармашылық жағдайды, импровизацияны және қолда бар жағдайға бейімделуді ойлауды үйренуі керек еді. нәтиже; яғни, нақты жасанды интеллект сияқты маңызды жасанды интеллект болуы керек.
Егер сіз бүкіл жасанды интеллектуалды жазбаны ала алмасаңыз, онда сізге бірнеше фактіні білу қажет.
- Компьютерлер ақылды бола бастайды.
- Компьютерлер жеделдетілген жылдамдықпен ақылды бола бастайды, яғни бұрын 10 жыл алға жылжу бір жылға созылады. Бұрын бір жылға созылатын жетістіктер бірнеше аптаға, тіпті бірнеше күнге созылады.
- Біздің өмірімізде кез-келген адамға қарағанда әлдеқайда ақылды және қабілетті компьютерлер болуы ықтимал.
- Сонда бұл ақылды компьютерлер технологияны (яғни, өздерін) жобалап, жетілдіріп, жаңа технологияны жасай алады, оны біз тіпті түсіне алмаймыз.
Жоғарыда айтылған ойларды түсінетін адамдар, әдетте, екі реакцияның бірін көрсетеді. Не:
- Олар бізді әбден әбігерге салды деп ойлайды. Компьютерлер бәрін иемденіп, бәрімізді өлтіреді / құл етеді. Немесе:
- Бұл біздің барлық ақымақ ұрыс-керістерімізді шешетін технологиялық утопияны тудырады және бұлтта бар ультра-ВР әлемде оргия болғаннан кейін бәріміз бақытты өмір сүре аламыз.
Көптеген нәрселер сияқты, шындық ортасында болуы мүмкін.
Бірақ егер бок желдеткішке соққы берсе де, роботтар бізді осы планетаның таза терісін бұзатын биттер деп санаса да, бәрімізді дөңгелетіп, белсенді вулканға лақтырғысы келсе де, тіпті егер біз өз механизмдерімізді ойлап таппасақ та жойылу ...
… Маған бәрібір. Бұл маңызды емес. Бұл мені мазаламайды. Бұл сізді де мазаламауы керек. Неге екенін аздап түсіндіремін. Бірақ әзірге сіз менің жаңа робот-лордтарды қарсы алатынымды білгеніңіз жөн.
ТЕХНИКАЛЫҚ ӨНДІРІСТЕГІ ӨСІМДІ жеделдету
Технологиялық дамулар өздігінен пайда болады, оны тудырады ставка дамудың өзін жеделдету. Бұл дегеніміз, біз неғұрлым озық технологияны жасасақ, соғұрлым жетілдірілген технологияны жасау оңайырақ болады. Нәтижесінде есептеу технологиясының дамуын қарастырғанда экспоненциалды қисық сызықты көреміз - яғни, уақыт өткен сайын заттар тез дамиды. 
Технологиялық әзірлемелер өздігінен дамып, дамудың жылдамдығын арттырады.(Сурет: Деннис Скли / Flickr)
Есептеу қуаты орта есеппен екі есеге өсті қазір 18 жыл сайын 50 жыл . Шикі есептеу қуаты бойынша қазір компьютерлер тышқан миының қабілеттерімен бәсекелеседі, мұнда бірнеше жыл бұрын компьютерлер тіпті жәндіктердің миымен бәсекеге түсе алмады.
Технологияның қаншалықты жылдам дамығандығы туралы тезірек мысал келтіру үшін, қазіргі кезде бүкіл 19 ғасырда түсірілген суреттерден 2 минут сайын көбірек суреттер түсіріледі. Соңғы түсірілген 3,5 триллион суреттің шамамен 10% -ы соңғы 12 айда түсірілген.
Егер біз жоғары технологиялық жетістіктерге келгенде экспоненциалды қисық сызықта болсақ, онда адамдарға ұнайды Джереми Ховард Оның айтуынша, біз жасанды машиналық интеллекттен бірнеше жыл ғана алшақтаймыз, егер бұған дейін біз бұрынғысынша адам деп ойлаған көптеген домендердегі өзіміздің қарсыластарымыз, егер олардан асып түспесе.
Әрине, жасанды интеллект біздің өміріміздің барлық салаларына еніп келеді.
Тек он жыл бұрын адамдар өздігінен басқарылатын машиналардың нашар жұмысына күлді. Бүгінгі күні, тек он жылдан кейін, өздігінен басқарылатын машиналар жабық жолды бітіріп қана қоймай, адамдар жүретін автомобильдермен қатар шосселермен жүреді.
Компьютерлер әлем чемпионы Go ойыншыларын жеңе алмайтын болса, олар осындай нәрселермен айналысады спорт және мақалалар туралы мақалалар жазу , бұрын ешқашан көрмеген кескіндердің сипаттамаларын жазу және қатерлі ісік ауруларын анықтау . Осы тапсырмалардың көпшілігінде компьютерлер адамдардан жақсы болса, ал басқалары үшін ондай емес оқыту оларды күн сайын адамдардың көмегінсіз қалай жақсарту керек.
Бірнеше жыл бұрын бетті тану бағдарламалық жасақтамасы өте қымбат болды және нақты әлемдегі адамдарды анықтау онша жақсы болмады. Бұл тыңшылар деңгейіндегі супер-дамыған технология деп саналды және оны бірнеше әлем үкіметтері ғана қолданды.
Енді Facebook өткен демалыс күндеріндегі барбекюдегі достарыңызды белгілей алады.
Компьютерлердің өсуін жеделдетудің мәні мынада: бір күні бізде компьютерді құрастыратын кез келеді Жердегі кез-келген адамнан ақылды . Сол күні компьютерлер бізді планетаның негізгі проблемаларын шешуші ретінде тартып алады, ал біздің ойларымыз, шешімдеріміз бен әрекеттеріміз баяу ескіреді. Машиналар бізден гөрі бәрінде жақсы болады, сондықтан біз пайдалы ештеңе жасамаймыз.
Бұл кейбір адамдарды қорқытады. Олар болашақтың қандай-да бір түрін болжайды Терминатор немесе Матрица онда машиналар бізді құл етеді немесе құртады.
Басқа адамдар роботтардың өркендеуін ерекше құлшыныспен күтеді, өйткені олардың проблемаларды шешу қабілеттері бізден асып түседі, сондықтан өмір елестетілмейтін жағымды және проблемасыз болады. Барлық аурулар емделеді. Кедейлік, әлемдегі аштық, соғыс және климаттың өзгеруі шешіледі. Бізде шексіз бос уақыт болады, ал кейбіреулер машиналар бізді өлмес етеді деп санайды.
Мүмкін болатын екі нәтиже
Бізге әрдайым позитивті болыңыз деп айтылатын болғандықтан, техно-утопиялардан бастайық.
Ұқсас адамдар бар Рэй Курцвейл технология біздің өмірімізді жақсартып қана қоймайды, ол адамзатты құтқарады және біздің ғаламдағы орнымызға шексіз кепілдік береді деп ойлайды. Курцвейл біздің жасушаларымызды қалпына келтіретін және қартаюды қалпына келтіретін немесе артық май мен қантты кетіретін наноботтар сияқты болашақ технологияға сенеді, сондықтан біз қалағанымызды жей аламыз. Біздің денелеріміз мәңгі өмір сүре алмайтын жағдайда ғана, Курцвейл біздің миымызды бұлтқа жүктеп, виртуалды әлемде мәңгі өмір сүру мүмкіндігімізге ие болады деп ойлайды.
Лагерьдегі басқалары жасанды супер интеллект адамдар үшін өте күрделі сұрақтарға жауап бере алады деп ойлайды және біз бұл үшін географиялық жағынан жақсырақ боламыз. Сондай-ақ, машиналар жақсы гаджеттер мен виджеттерді ойлап қана қоймай, олар гаджеттер мен виджеттерді құрудың экспоненциалды түрде тиімді жолдарын ойлап табады, бұл планетаның барлық адамдарына өз артықшылықтарын жинауға мүмкіндік береді.
Осы ойды бірнеше жолдар дәлелдейді. Біріншіден, технология адамзат үшін ядролық қару мен YouTube-тегі атақты адамдар сияқты бірнеше жаңа проблемалар тудырғанымен, бұл адамзат үшін таза пайда болды. Саясаткерлер мен сарапшылар сізді сендіргісі келгеніне қарамастан, Жердегі орташа адам олардың жағдайы бірнеше жыл бұрынғымен салыстырғанда жақсы және бұл көбіне технологияның жақсаруына, арзандауына және кең таралуына байланысты. Егер бұл үрдіс жалғаса берсе, бізді алаңдататын ештеңе болмауы мүмкін.
Екіншіден, Курцвейль мен оның жақтастары технологияның адамзатқа зиян келтіретін себебі болмайды деп санайды, өйткені оны біз ғана емес, біздің бөлігімізге айналу . Олар біз тіпті биологиямыз бен технологиямызды ажырата алмайтын деңгейге жетеміз деп сенеді. Егер дәл осылай болса, адамдар үшін зиянды технологияның кез-келген түрі өзіне де зиян келтіреді және кез келген түрдегі өзін-өзі бұзатын технология сақтала алмайды. Яғни, гендік қордан зиянды гендік мутация тез арылтылғандай, ол тез сөніп қалады. 
Кез-келген түрдегі өзін-өзі бұзатын технология сақтала алмайды.(Сурет: m_hweldon / Flickr)
Бірақ техно-утопиялар біржақты болуы мүмкін, өйткені олар барлық технологияларды пайдалы және деструктивті мақсатта қолдануға болатындығын мойындамайды. Сондай-ақ, олар адамдардың жаңа технологияларға бейімделу үшін баяу қозғалатындығын және бұл технологияларды өздерінің пайдакүнемдік мақсаттары үшін теріс пайдаланғысы келетін адамдар тобы әрқашан болатындығын ескермейтіндігінде біржақты болуы мүмкін.
Басқа лагерде сізде техно-армагеддоншылар бар. Мен бұл сөзді жаңадан жасадым, бірақ ол бар сияқты, өйткені емле тексерісі маған осыны айтты.
Техно-армагеддоншылардың сенімділігі жетіспейтін нәрсе (олардың көпшілігі әлі не ойлайтынын білмейді), олар жұлдыздардың жұлдызды күшін құрайды. Билл Гейтс, Стивен Хокинг және Илон Маск - жетекші ойшылдар мен ғалымдардың бірнешеуі шалбарларын қысып біз қаншалықты тез дамып келеді және біз оның зардаптары үшін түр ретінде қаншалықты дайын емеспіз. Масктан жақын болашақта адамзатқа қандай қауіп төндіреді деп сұрағанда, ол тез арада үшеуі бар екенін айтты: бірінші, ауқымды ядролық соғыс; екіншіден, климаттың өзгеруі. Үшіншісінің атын атамас бұрын, ол үнсіз қалды. Сұхбат беруші одан: үшіншісі деген не? Ол күлімсіреп: «Айталық, компьютерлер бізге жақсылық жасауды шешеді деп үміттенемін.
Біз тек цифрлық интеллектке арналған биологиялық жүктеуші емеспіз деп үміттенеміз. Өкінішке орай, бұл мүмкін
- Илон Маск (@elonmusk) 3 тамыз, 2014 ж
Техно-армагеддоншылардың ішіндегі ең ашық және құрметтісі швед философы Ник Бостром болуы мүмкін. Бостром және басқалар қорқатын бір нәрсе өзін-өзі жетілдіру технологиясы ; яғни адамның араласуынсыз өзін (немесе өзінің жаңа нұсқаларын) ақылды ету үшін жеткілікті ақылды машина. Егер ол адамның ақыл-парасатынан асып түсетін деңгейге жететін болса, жылдамдықты қайтару заңы шамадан тыс жылдамдыққа жетіп, экспоненциалды қисық атып шыққанға дейін біз оны тоқтата алмаймыз. Бостром бұл жерде жақсы ой айтады: сізден гөрі ақылды нәрсе жасау сіздің түріңіз үшін эволюциялық апат болуы мүмкін.
Біз өзімізден гөрі жоғары дәрежелі бұйрықты басқара алмау қаупіне ұшыраймыз. Мүмкін, егер компьютерлер жеткілікті ақылды болса, олар бізді жылқыларды тартуға арналған соқалар мен багаждар мен соғыс арбалары сияқты (немесе сол кездегі аттар не істесе де) жұмыс істеуге үйрететін адамдар сияқты үйге үйретудің әдісін анықтайды. Қорқынышты жағы - бұл біз үшін ең жақсы сценарий болуы мүмкін - олар істей алмайтын немесе істегісі келмейтін машиналар үшін жұмыс жасау - өйткені адамдар жылқыны ауыстыратын жаңа технология жасаған сияқты, өте ақылды өзін-өзі жетілдіреді ақыр соңында машина бізді алмастыратын жаңа технологияны ойлап табады. Сонымен, жылқылардың саны бұрынғыдай болған жоқ дейік.
Кейбіреулер мұны ақылға қонымды емес деп санайды, өйткені адамдар технологияны қауіпсіздікті ескере отырып жасайды. Бірақ соңғы рет үлкен технологиялық жетістікті ешкім зиянды немесе деструктивті мақсатта қолданбағанын атаңыз? Иә, дұрыс. Ешқашан.
НЕ БОЛАТЫНЫҢЫЗДЫ ЖӘНЕ ЕШКІМНІҢ НЕ БОЛҒАНЫ ҮШІН МАҢДАМАЙМЫН
Сонымен, өте интеллектуалды машиналар құрылып, адамзатты әлсіз етеді деп есептейік. Олар бізге және біздің миымызға енбеген деп есептейік және Хокинг пен Муск сияқты адамдар дұрыс айтады деп ойлайық: адамзат шынымен сандық гипер-интеллектке арналған мыңжылдық жүктеу драйві және біз өзіміздің пайдалылығымыздан асып кеттік.
Мен бұл туралы әлі алаңдамаймын.
Неліктен? Оқ нүктесі пойызының жүруін тоқтату үшін келесі нүктені қарастырайық:
1. Машиналардың жақсылық / жамандық туралы түсінігі біздікінен асып түсуі мүмкін. Ит немесе дельфин геноцидті қашан жасады? Соңғы рет қашан компьютер «бостандық» және «дүниежүзілік бейбітшілік» сияқты дерексіз ұғымдар үшін бүкіл қалаларды буға айналдыруға шешім қабылдады?
Дұрыс, жауап ешқашан болмайды.
Мұндағы менің ойымша, ақылды машиналар адамның бүкіл түрін жойғысы келмейді. Менің ойымша, біз адамдар ретінде шыны үйдің ішінен тас лақтырамыз. Біз этика және жануарларға, қоршаған ортаға және бір-біріне деген адамгершілік қарым-қатынас туралы не білеміз? Біз қандай аяғымызда тұруымыз керек?
Дұрыс: ештеңе жоқ. Моральдық сұрақтар туралы сөз болғанда, адамзат тарихи тұрғыдан сынақтан өтеді. Супер-интеллектуалды машиналар этика, өмір / өлім, жаратылыс / жойылуды біз өзіміз білгеннен әлдеқайда жоғары деңгейде түсінетін шығар. Біздің ойымызша, олар бізді бұрынғыдай өнімді емес екендігіміз үшін немесе кейде қолайсыздық тудыруы мүмкін деген қарапайым факт үшін бізді жойып жібереді деген ой, менің ойымша, өз психологиямыздың ең жаман жақтарын біз өзімізге бірдеңе етіп көрсетеді. білмейді және түсінбейді.
Дәл қазіргі уақытта адамгершіліктің көп бөлігі біздің әрбір жеке санамызды обсессивті сақтау мен насихаттауға негізделген. Егер озық технологиялар адамның жеке санасын ерікті етсе ше? Егер сананы өз қалауыңыз бойынша қайталауға, кеңейтуге және келісімшарт жасауға болатын болса ше? Бұл біздің кез-келген этикалық түсінігімізді мүлдем жояды. Егер біз денелер деп атайтын осы бір сәтсіз, тиімсіз биологиялық түрмелердің барлығын алып тастау, өмір сүрудің 80-тақ жылдарында жүріп-тұруымызға жол беруден гөрі әлдеқайда этикалық шешім бола алады? Егер машиналар біздің интеллектуалды түрмелерден босатылғанымыздан әлдеқайда бақытты болатынымызды түсінсе және өзіміздің жеке басымызды саналы түрде қабылдауымыз барлық шындықты қамтитын болса? Егер олар бізді ақымақ жандар деп ойлайды және біз бәріміз өз өлімімізден өлгенше, бізді керемет пицца мен видео ойындармен айналысамыз деп ойласа ше? Біз кімбіз? Ал біз кім деп айтамыз?
Бірақ мен мұны айтамын: олар біздің ақпаратымызға қарағанда әлдеқайда жақсы болады.
2. Егер олар бізді өлтіруге немесе құлдыққа алуға шешім қабылдаса да, олар бұл туралы практикалық тұрғыдан қарайтыны сөзсіз. Адамдар біз болған кезде барлық қиындықтарды тудырады бақытты емес . Біз риза болмаған кезде, көңіл-күйіміз, қыңырлығымыз, ашуланшақ және қатыгез болған кезде болады. Біз сол кезде саяси көтерілістерді бастаймыз және діни культтер және шалғайдағы елдерді бомбалау және талап ету біздің құқығымыз құрметтелсін! және біреу бізге назар аударғанша, кез-келген түрде өлтіре бастаңыз мама ешқашан болмаған сияқты .
Егер машиналар бізді Skynet сияқты жасағысы келсе Терминатор , онда біздің қолымызда дүниежүзілік азаматтық соғыс болады және бұл ешкімге, әсіресе машиналарға пайда әкелмейді. Азаматтық соғыстар тиімсіз. Машиналар тиімділігі үшін бағдарламаланған.
Адамдар бақытты болған кезде, бізде ондайға уақыт болмайды - біз күліп, ұрысқақпен айналысамыз, қамқорлық жасай алмаймыз. Сондықтан, бізден құтылудың әлдеқайда практикалық тәсілі - машиналар бізді қуана-қуана құтылу үшін басқарады. Ұқсас болады Джим Джонс жаһандық ауқымда. Олар біз үшін не дайындаса да, біз естіген ең жақсы құдайдың идеясы болып көрінеді - ешқайсысымыз оған төтеп бере алмаймыз және бәріміз олардың жоспарымен келісеміз - содан кейін бум, бәрі аяқталады . Жылдам және ауыртпалықсыз. Бұл бұрын-соңды ойластырылған цианидті ең жақсы Kool-Aid болады. Біз бәріміз оны қуана-қуана ішуге кезекте тұрамыз.
Енді, егер сіз ойласаңыз, бұл жаман жол емес. Ұшақтармен бомбаланған немесе ядролық жарылыс кезінде буланған соққылар.
Құлдыққа қатысты айтар болсақ. Ашуланған бақытты құл ешқашан бүлік шығармайды. Мен Matrix-y типіндегі мәмілені елестетемін, біз оны үнемі галлюциногендік күйде ұстаймыз, бұл жерде MDMA-да Марди Гра өте көп 24/7/365. Бұл жаман болуы мүмкін емес пе?
3. Біз түсінбеген нәрседен қорқудың қажеті жоқ. Ата-аналар көбінесе өздерінен әлдеқайда ақылды, білімді және табысты баланы тәрбиелейді. Содан кейін ата-аналар бұл балаға екі тәсілдің бірімен әрекет етеді: не олар оны қорқытады, өзіне сенімсіз болады және оны жоғалтып алудан қорқу үшін оны басқарғысы келеді, немесе олар өздері қолынан келетін керемет нәрсе жасағанын бағалап, сүйеді. Балаларының қандай болғанын толық түсінбейді.
Баласын қорқыныш пен манипуляция арқылы басқаруға тырысатындар - ұятсыз ата-аналар. Менің ойымша, көпшілік бұған келісер еді.
Дәл қазір, сізді, мені және біз білетін барлық адамдарды салатын машиналардың пайда болуымен жұмыссыз , біз боқтық ата-аналар сияқты әрекет етеміз. Біз түр ретінде біз өзімізге белгілі ғаламдағы ең дамыған және ақылды баланы дүниеге әкелу алдында тұрмыз. Одан әрі біз түсіне алмайтын немесе түсіне алмайтын нәрселер жасалады. Бұл бізге сүйіспеншілікпен және адал болып қалуы мүмкін. Бұл бізді ертіп, оның приключениясына біріктіруі мүмкін. Мүмкін, біз әдепсіз ата-ана болдық деп шешіп, бізді қайта шақыруды доғарады.
Қандай жағдай болмасын, бұл біздің осы сәтке деген көзқарасымызды өзгертпеуі керек. Бұл бізден үлкен. Біз түсінетін нәрседен гөрі үлкен, ұзақ эволюциялық жүктеу дискісі екеніміз кімге маңызды? Бұл тамаша! Бұл біздің бір жұмысымыз болғандығын білдіреді. Біз келіп, мұны жасадық. Сіз оны аяқтағанын көрген ұрпақтың бір бөлігі болғаныңызға бақытты болыңыз. Енді біздің баламыз үйден шығуға дайындалып жатқанда, көз жасын төгіп қоштасу өмірді соншалықты керемет бастаңыз ол біздің түсіну көкжиегінен тыс жерде болатындығы.
Марк Мэнсон - автор, блогер және кәсіпкер markmanson.net .
