Kaj je tehnološka singularnost

2024 Avtor: Malcolm Clapton | [email protected]. Nazadnje spremenjeno: 2023-12-17 04:10

Prihodnost je bližje, kot se zdi.

Kaj je tehnološka singularnost

Tehnološka singularnost je teoretični trenutek, ko človek izgubi nadzor nad tehnološkim napredkom, ta pa postane nepopravljiv. Preprosto povedano, v bližnji prihodnosti se lahko tehnologije tako razvijejo, da jih bo človeštvo preprosto nehalo slediti in jih razumeti.

Najpogosteje se obravnava ustvarjanje umetne superinteligence kot način za doseganje singularnosti, vendar to ni edini možni način. Na primer, v bližnji prihodnosti se bodo verjetno pojavili stroji (računalniki, roboti), ki bodo zmogli vse bolje kot ljudje, in zaradi tega bo prišlo do ostrega, plazovitega tehnološkega preskoka.

Vendar je najpogosteje takšna ugibanja zgradil Tegmark M. Life 3.0. Biti človek v dobi umetne inteligence. - M., 2019 ne o znanstvenih napovedih, ampak o mitih na področju umetne inteligence.

Nadalje, kot verjamejo zagovorniki koncepta tehnološke singularnosti, se bodo takšne "intelektualne eksplozije" pojavljale vedno pogosteje. To lahko privede do radikalnih sprememb v družbi, ki jih ne moremo niti predvideti niti nadzorovati.

Prav posledice singularnosti povzročajo številne strahove in služijo kot osnova za razprave o prihodnosti človeštva. Te posledice se ocenjujejo na različne načine. Raymond Kurzweil, futurist za prepoznavanje govora in ključna osebnost pri Googlu, verjame, da je napredek tehnologije odlična priložnost za ljudi, da postanejo boljši ljudje. Manj optimistični v svojih ocenah so Elon Musk, Bill Gates in pokojni Stephen Hawking. Po njihovem mnenju lahko napredek vodi v uničenje človeštva.

Kateri so predpogoji za tehnološko posebnost

Zaskrbljenost zaradi posledic tehnološkega napredka se ni pojavila od nikoder. Mnogi procesi v sodobni družbi in znanosti spodbujajo tovrstna razmišljanja.

Pospeševanje tehničnega in tehnološkega napredka

Digitalna doba se je začela z izumom tranzistorja leta 1947 in se nadaljuje še danes. Leta 1965 je eden od ustanoviteljev Intela, ki se je pripravljal na govor, odkril zanimiv vzorec: vsaki dve leti se število tranzistorjev v mikrovezjih podvoji.

Od takrat se je malo spremenilo: računalniško računalništvo kaže nenehno eksponentno rast. Nadaljnji napredek tehnologije, bolj strma postaja krivulja, ki ponazarja tehnološki napredek. V nekaj desetletjih se lahko njegov tempo seže v neskončnost.

Po Harvey C. Big Data Challenges. Datamation by Datamation, že leta 2017 so digitalni podatki presegli naše zmožnosti upravljanja z njimi. Poleg tega se vsaki dve leti podvoji.

Eden od naslednjih korakov v razvoju tehnologije je verjetno lahko izum AGI (umetne splošne inteligence). Ta izraz se nanaša na AI, ki se uči komunicirati, razmišljati in delovati kot človek ali celo bolje. Se pravi, AGI teoretično lahko nadomesti ljudi v vsem.

Razvoj umetne inteligence

Računalniki zaenkrat ne morejo narediti absolutno vsega bolje od nas, čeprav so pri reševanju marsikaterega problema že precej pametnejši od človeka (ali vsaj hitrejši od njega).

Še pred 4-5 leti se bo napoved singularnosti Raya Kurzweila zgodila do leta 2045. Futurizem Raymonda Kurzweila, da bo do leta 2045 umetna inteligenca v vsem prehitela človeško inteligenco, je veljal za zelo drzno (kljub temu, da je od 90. let prejšnjega stoletja 86% njegovih uresničiti).

Danes se obdobje med letoma 2025 in 2035 ali celo prej že imenuje hipotetični datum za pojav AGI.

Pandaya J. Zaskrbljujoča pot tehnološke singularnosti lahko pri tem igra posebno vlogo. Forbes bo igral gradnjo nevromorfnih čipov – procesorjev za nevronske mreže, ki posnemajo, kako naši možgani obdelujejo informacije. Zaenkrat so raziskave na tem področju še daleč od pridobitve resnično delujočega modela, vendar so že nedvomni uspehi. Evo, kaj lahko AI naredi danes:

• učiti se;
• premagati ljudi v strateških igrah (program AlphaGo je leta 2015 v samo 9 urah treninga pridobil DeepMind in Google: boj za nadzor umetne inteligence. The Economist sposobnost igranja šaha bolje kot človek);
• Pomagajte eksoskeletu, ki ga nadzorujejo možgani, paraliziranemu bolniku omogoči hojo. Znanstveniki s poškodbami hrbtenjače se spet postavijo na noge;
• prepoznati obraze;
• voziti avto;
• slikati Ali naj bi umetna inteligenca postala naslednji medij umetnosti? CHRISTIE'S in sorodna besedila;
• ustvariti sistem umetne inteligence, ustvarjen pri UNC - Chapel Hill oblikuje zdravila iz nič. UNC – zdravila CHAPEL HILL;
• Vodilna kitajska državna tiskovna agencija Xinhua za branje novic debitira z "voditeljem AI". Mashable poročanje o novicah in še veliko več.

Leta 2014 je Google za 600 milijonov dolarjev pridobil DeepMind in Google: boj za nadzor umetne inteligence. The Economist podjetja AlphaGo je britansko podjetje DeepMind, katerega cilj je bil izumiti AGI. Ideje Britancev so Googlu pomagale ustvariti učinkovite algoritme za diagnosticiranje očesnih bolezni in zgodnje odkrivanje Parkinsonove in Alzheimerjeve bolezni.

Najverjetneje je vredno počakati na pojav AGI v bližnji prihodnosti. Vendar pa začetek tehnološke singularnosti ni neposredno povezan s tem.

Pojav nevronskih vmesnikov

Že zdaj lahko govorimo o internetu kot obliki "globalnih možganov" - fenomenu, zahvaljujoč kateremu lahko ljudje z vsega sveta skoraj neprekinjeno komunicirajo med seboj prek tehničnega posrednika.

Obstajajo naprave, ki so bližje pripomočkom iz znanstvenofantastičnih filmov. Že več kot 300 tisoč ljudi uporablja Kako blizu smo možgansko-računalniškemu vmesniku Elona Muska? CNN Health kohlearni vsadki (slušne proteze, ki delujejo neposredno na slušni živec) in vzorci bioničnih oči se testirajo pri ljudeh. Čeprav te naprave še vedno ne morejo popolnoma obnoviti vida ali sluha, se kakovost njihovega dela izboljšuje.

Tudi Elon Musk in Brian Johnson sta objavila Kako blizu smo možgansko-računalniškemu vmesniku Elona Muska? CNN Health o ustvarjanju startupov za razvoj vmesnikov človek-računalnik (Neuralink in Kernel). Seveda je še prezgodaj reči, da bomo pametni telefon kmalu lahko upravljali z močjo misli: vse takšne naprave so še vedno prepočasne in nepopolne. Kljub temu obstajajo vsi razlogi za domnevo, da je uspeh v tej panogi tik za vogalom.

Kateri so razlogi za tehnični napredek?

AI in roboti bodo prevzeli kompleksno intelektualno in fizično delo

Razvoj umetne inteligence in robotike lahko na koncu pripelje do dejstva, da se bodo stroji naučili narediti vse brez ali z minimalnim človekovim posredovanjem. V tem primeru se bo napredek še naprej pospeševal, vse bolj izboljševal življenje in življenje ljudi.

Ljudje že uporabljajo računalnike za znanstvene raziskave in izboljšanje tehnologije. Zahvaljujoč temu (na primer genetske raziskave ali razvoj naprav, ki izboljšujejo zmogljivosti človeških možganov), ljudje sami postanejo pametnejši, stroji pa hitrejši. Tako se pospeši razvoj ne samo računalnikov, ampak tudi človeka.

Ljudje bodo v sebi odkrili nove sposobnosti

Zlitje človeka s tehnologijo se ne pojavlja le na fizični (uporaba protez, modifikacije), ampak tudi na informacijski ravni (uporaba pripomočkov). Pametni telefon z mobilnim internetom v žepu je prvi korak k temu, da postanete kiborg.

Obstaja celo gibanje transhumanizma. Britannica, zagovornica aktivnega izboljšanja človeškega telesa s tehnološkim napredkom. Transhumanisti verjamejo, da je telesna modifikacija edini način, da gremo v korak s časom in ne damo usode človeštva na razpolago strojem.

Vendar je doslej pojav človeških biorobotov še vedno v domeni fantazije.

Nove tehnologije odpirajo pot do potencialne nesmrtnosti

Zdi se, da je odprava omejitev DNK na tem področju veliko bolj elegantna rešitev. Genetski in bioinženiring Pandaya J. Zaskrbljujoča pot tehnološke singularnosti. Forbes, pa tudi nootropi, lahko naredijo ljudi pametnejše. S pomočjo umetno vzgojenih organov ali nanomahov se lahko ljudje znebijo staranja in dosežejo nesmrtnost.

Vprašanje je le, kako hitro se bo človek naučil (in se bo naučil) izkoristiti te priložnosti, ali jih bosta družba in vlada odobravali. Trajalo bo leta, da se bodo gensko spremenjeni ljudje rodili in izobraževali, tudi če zanemarimo družbene dejavnike, ki upočasnjujejo sprejemanje takšne tehnologije. Druge oblike superinteligence (AI) se lahko pojavijo veliko hitreje.

Kaj pravijo nasprotniki nenadzorovanega razvoja tehnologije

Umetna inteligenca lahko uniči človeštvo

Razvoj AGI bo verjetno prehitel razvoj človeških možganov in tehnologije, ki nas opolnomoči. Umetna inteligenca je sposobna preseči človeško in v pesimističnem scenariju zlahka uide nadzoru.

Doktor Univerze v Oxfordu Nick Bostrom meni, da Bostrom N. Superinteligence: Paths, Dangers, Strategies. - Oxford University Press, 2014, da obstaja razlog za zaskrbljenost. Po njegovem mnenju, ne glede na to, kako razvit je intelekt, to ne vpliva na to, ali bodo dejanja lastnika zla ali dobra. Zato, ne glede na to, kako pametna je AI, nismo imuni pred dejstvom, da bo naredil nekaj slabega.

Pomembno Tegmark M. Life 3.0. Biti človek v dobi umetne inteligence. - M., 2019, da AGI razume, sprejme cilje človeštva in se jih drži. Če si postavi druge prioritete, kot so samoohranitev, grabljenje sredstev ali potešitev radovednosti, potem se bodo v odnosu med ljudmi in stroji pojavili konflikti.

Posodobitev človeškega telesa lahko privede do nadaljnjega razslojevanja družbe

Sprememba človeškega telesa ne more samo ustvariti "Human 2.0", ampak tudi poslabša družbene konflikte. Tisti, ki imajo dostop do takšnih tehnologij, bodo očitno imeli prednost pred tistimi, ki teh zmogljivosti nimajo.

Pojavijo se pomembna etična in pravna vprašanja: ali je mogoče dati eni osebi intelektualno in/ali fizično prednost pred drugo in kako zaščititi "biomehanske ljudi" pred hekerji.

Ko je tehnologija enkrat v napačnih rokah, je lahko smrtonosno orožje

Ne pozabite, da je človek sam po sebi velika nevarnost. Vojska že uporablja drone in programabilne stroje kot orožje, družbeni mediji pa so preplavljeni s prevaranti. Zelo verjetno je, da bodo ljudje začeli zlorabljati tudi nove tehnologije.

Toda še pred tem preprosto tvegamo, da ne bomo preživeli, saj je tudi obstoječe orožje nevarno. Max Tegmark, astrofizik in profesor na Massachusetts Institute of Technology, je izračunal Tegmark M. Life 3.0 s pomočjo statističnih verjetnostnih formul. Biti človek v dobi umetne inteligence. - M., 2019 nevarnost svetovne jedrske vojne, ki vodi v medsebojno uničenje. Ugotovil je, da če je verjetnost 0,001 v enem letu, se bo v intervalu 10.000 let zgodil jedrski kolaps z verjetnostjo 99,95%. Celo dobro uveljavljen sistem zadrževanja dobro raziskanega orožja lahko propade. In postavlja se vprašanje: ali lahko nadziramo bolj zapletene tehnologije, da ne bi padle v napačne roke?

Kakšna prihodnost nas lahko čaka

Hkrati Max Tegmark kritično ocenjuje Tegmark M. Life 3.0. Biti človek v dobi umetne inteligence. - M., 2019 verjetnost pesimističnega scenarija. Meni, da so možnosti za samoizpopolnjevanje omejene s fizikalnimi zakoni. Prava singularnost kot neskončno hiter napredek je po Tegmarku nemogoča, čeprav se ta proces lahko približa neskončnosti.

Zato profesor trdi, da bo tehnološkemu preskoku sledilo hitro doseganje vse ali skoraj vse popolnosti znanja o svetu in ne njihovega neskončnega kopičenja.

Po drugem stališču se nič, vključno z napredkom, ne more pospeševati v nedogled – prej ali slej se bo upočasnil.

Zanesljivo pa lahko rečemo, da človeštvo še ni prešlo točke upočasnitve.

Vsi znanstveniki na splošno ne delijo teorije tehnološke singularnosti. Nekateri ugotavljajo, da do zdaj v naravi niso odkrili pojavov, ki bi se razvijali neomejeno in neskončno hitro. Ob tem raziskovalci opozarjajo na dejstvo, da precejšnje število napovedi na tem področju ne temelji na objektivnih podatkih, temveč na željah samih napovedovalcev.

Tako lahko na primer umetna inteligenca ostane zgolj utilitarna in ni obdarjena z osebnostjo. Algoritmi istega DeepMinda še ne morejo DeepMind in Google: bitka za nadzor umetne inteligence. Economist najde rešitev, če gre kaj narobe in se spremenijo vnaprej določeni pogoji.

Umetna inteligenca nas zaenkrat prehiteva le na račun računalniške moči. Toda tisto, kar lahko ljudje obvladajo v nekaj minutah, program porabi na tisoče ur v primerjavi s človeško izkušnjo.

Na primer, da se AlphaGo nauči igrati Space Invaders, mora narediti na tisoče poskusov. Na koncu se bo program seveda igral bolje kot oseba, vendar bo proces obvladal veliko hitreje.

Zato nobene od napovedi ni mogoče šteti za 100 % verjetno. Toda to ni razlog, da bi popolnoma opustili idejo o tehnološki singularnosti.

Izvajanje določenih scenarijev usode človeštva bo v veliki meri odvisno od smeri tehnološkega razvoja, v čigavih rokah bo in kako bo urejen. Veliko vlogo bo igralo tudi, kako izpopolnjena bo tehnologija. Ne pozabite na družbene, geopolitične in gospodarske dejavnike, ki lahko vplivajo na napredek. Težko je govoriti tudi o točnih datumih začetka tehnološke singularnosti.

Ali bo oseba še naprej obstajala, če ne bo potrebna za številne vrste dejavnosti (na primer znanost)? Ali bo oseba, spremenjena z DNK-intervencijami ali nevrovmesniki, ostala oseba? Na ta vprašanja nimamo odgovorov. Morda se je človek že nepovratno spremenil s prihodom računalnikov in digitalnih tehnologij.

Toda ena stvar je popolnoma gotova: evolucijski proces je naraven in neustavljiv. Ne moremo ga upočasniti. Na koncu nas bodo morda stroji naučili, da se ne smemo ubijati ali poniževati in bi jim morali zaupati?

Zato, kot svetuje Tegmark M. Life 3.0. Biti človek v dobi umetne inteligence. - M., 2019 Max Tegmark, ne razmišljaj o prihodnosti, ki te straši, ampak o tisti, ki si jo želiš.