Stephen Hawking: AI môže zničiť ľudstvo
Vývojári a zákonodarcovia sa musia zamerať na „maximalizáciu“ prínosov technológie pre spoločnosť
Tento obsah podlieha autorským právam.
Stephen Hawking varoval, že umelá inteligencia (AI) by mohla zničiť ľudstvo, pokiaľ neprijmeme opatrenia, aby sme sa vyhli rizikám, ktoré predstavuje.
V prejave na tohtoročnom Web Summite v Portugalsku fyzik povedal, že okrem výhod prináša táto technológia aj nebezpečenstvá, ako sú silné autonómne zbrane alebo nové spôsoby, ako utláčať mnohých.
V úvodzovkách uviedol Forbes , pokračoval: Úspech vo vytváraní efektívnej AI by mohol byť najväčšou udalosťou v histórii našej civilizácie. Alebo najhoršie. len nevieme.
Hawking navrhol, že ľudstvo by mohlo zabrániť AI v ohrozovaní našej existencie reguláciou jej vývoja.
Možno by sme sa všetci mali na chvíľu zastaviť a sústrediť sa nielen na to, aby bola naša AI lepšia a úspešnejšia, ale aj na prospech ľudstva, dodal.
Jeho komentáre prichádzajú necelé tri mesiace po tom, čo Elon Musk, zakladateľ spoločností Tesla a SpaceX, povedal, že AI je oveľa riskantnejšia ako hrozba jadrového útoku zo Severnej Kórey.
Musk predtým pred panelom amerických štátnych politikov povedal, že kým ľudia neuvidia, ako roboty idú po ulici zabíjať ľudí, nevedia, ako reagovať, pretože sa to zdá také éterické.
Hawking ocenil kroky v Európe na reguláciu nových technológií CNBC , najmä návrhy, ktoré zákonodarcovia predložili začiatkom tohto roka na vytvorenie nových pravidiel týkajúcich sa AI a robotiky.
Elon Musk hovorí, že umelá inteligencia je nebezpečnejšia ako vojna so Severnou Kóreou
15. augusta
Zakladateľ spoločnosti Tesla a SpaceX Elon Musk hovorí, že umelá inteligencia (AI) je „oveľa riskantnejšia“ ako hrozba útoku zo Severnej Kórey.
V dôsledku rastúceho napätia medzi Severnou Kóreou a USA Musk vo svojom tweete uviedol: 'Ak sa nestaráte o bezpečnosť AI, mali by ste sa jej báť.'
Ak vás bezpečnosť AI neznepokojuje, mali by ste mať. Oveľa väčšie riziko ako Severná Kórea. pic.twitter.com/2z0tiid0lc
— Elon Musk (@elonmusk) 12. augusta 2017
Nie je to prvýkrát, čo vynálezca narodený v Južnej Afrike vyjadril svoje obavy z technológie AI.
V rozhovore s publikom amerických štátnych politikov na Rhode Island minulý mesiac Musk povedal: 'Kým ľudia neuvidia, ako roboti idú po ulici zabíjať ľudí, nevedia, ako reagovať, pretože sa to zdá také éterické.'
Aby sa AI nestala hrozbou pre ľudstvo, hovorí, že vláda USA by sa mala „naučiť čo najviac“ a „získať prehľad“ o tom, ako táto technológia funguje. Mala by tiež zaviesť predpisy, ktoré zabezpečia, aby spoločnosti vyvíjali AI bezpečne.
Zatiaľ čo vynálezca pripúšťa, že „nikto nemá rád reguláciu“, hovorí, že všetko ostatné, čo predstavuje „nebezpečenstvo pre verejnosť, je regulované“ a že AI „by tiež malo byť“.
Nikto nemá rád reguláciu, ale všetko (autá, lietadlá, jedlo, drogy atď.), čo predstavuje nebezpečenstvo pre verejnosť, je regulované. AI by mala byť tiež.
— Elon Musk (@elonmusk) 12. augusta 2017
Muskove poznámky prichádzajú v rovnakom čase, keď umelá inteligencia vyvinutá jeho spoločnosťou OpenAI úspešne porazila niektorých z top svetových hráčov v počítačovej hre Dota 2. The Guardian .
Systém „dokázal vyhrať všetky svoje hry 1-v-1 na medzinárodných majstrovstvách Dota 2 proti mnohým najlepším svetovým hráčom, ktorí súťažili o cenový fond 24,8 milióna dolárov (19 miliónov libier).
Elon Musk požaduje reguláciu AI skôr, než „bude príliš neskoro“
18. júla
Zakladateľ SpaceX a Tesly Elon Musk vyzval, aby bol vývoj umelej inteligencie (AI) regulovaný skôr, než „bude príliš neskoro“.
Na stretnutí amerických politikov na Rhode Island minulý víkend tento vynálezca narodený v Juhoafrickej republike povedal: „AI je zriedkavý prípad, keď si myslím, že musíme byť proaktívni v regulácii namiesto reaktívnosti.
„Kým ľudia neuvidia, že po ulici idú roboti zabíjať ľudí, nevedia, ako reagovať, pretože sa to zdá také éterické.“
Dodal: 'AI je základným rizikom pre existenciu ľudskej civilizácie.'
Povedal tiež, že AI bude mať podstatný vplyv na pracovné miesta, pretože „roboty budú môcť robiť všetko lepšie ako my“, a dodal, že sektor dopravy, ktorý podľa neho predstavuje 12 percent pracovných miest v USA, bude „jedným z prvé veci sa stanú plne autonómnymi“.
Musk tiež hovoril o svojej „túžbe založiť medziplanetárne kolónie na Marse“, ktoré by slúžili ako bezpečné útočisko, ak by roboty ovládli Zem. CleanTechnica správy.
Aby sa tomu v prvom rade zabránilo, vyzval vládu, aby sa „naučila čo najviac“ a „získala prehľad“ o tom, ako možno AI bezpečne rozvíjať.
Kritici však tvrdia, že Muskove poznámky by mohli „odvádzať pozornosť od naliehavejších obáv“, píše Tim Simonite. Drôtové .
Ryan Calo, odborník na kybernetické právo z University of Washington, pre webovú stránku povedal: „Umelá inteligencia je niečo, čomu by tvorcovia politiky mali venovať pozornosť.
„Zameranie sa na existenčnú hrozbu však dvojnásobne odvádza pozornosť od jej potenciálu pre dobro a od problémov reálneho sveta, ktoré dnes a v blízkej dobe vytvára.“
