Musk spoločne s expertmi vyzvali pozastaviť vývoj systémov výkonnej umelej inteligencie. V otvorenom liste varovali pred katastrofálnymi rizikami pre celé ľudstvo
30.03.2023 11:15
Predmetnú výzvu podpísalo viac ako tisíc odborníkov na umelú inteligenciu vrátane amerického miliardára Elona Muska a spoluzakladateľa spoločnosti Apple Stevea Wozniaka. Na druhej strane spektra stoja zástancovia vývoja umelej inteligencie, ku ktorým patrí aj zakladateľ Microsoftu Bill Gates.
Miliardár Elon Musk a skupina expertov v stredu v otvorenom liste vyzvali na pozastavenie vývoja výkonných systémov umelej inteligencie, aby mohla byť preverená ich bezpečnosť. TASR prevzala správu z agentúry AFP.
Predmetnú výzvu podpísalo viac ako tisíc odborníkov na umelú inteligenciu vrátane Muska a spoluzakladateľa spoločnosti Apple Stevea Wozniaka. Ich žiadosť podnietilo vydanie novej verzie chatbotu ChatGPT zvanej GPT-4 z dielne americkej organizácie OpenAI.
Vývojári tohto chatbotu tvrdia, že najnovšia verzia je oveľa výkonnejšia ako predchádzajúca. Softvér ChatGPT verejnosti voľne sprístupnili vlani v novembri. Používateľov mimoriadne zaujal schopnosťou jasne odpovedať na zložité otázky, písať básne či prejsť vedomostným testom.
"Systémy umelej inteligencie schopné konkurovať ľudskej inteligencii môžu predstavovať vážne riziká pre spoločnosť a ľudstvo," píše sa v otvorenom liste zvanom "Pozastavte gigantické experimenty s umelou inteligenciou".
"Výkonné systémy umelej inteligencie by mali byť vyvíjané iba vtedy, ak sa uistíme, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné," dodali experti.
Musk bol jedným z prvých investorov v organizácii OpenAI a roky pôsobil aj vo výkonnej rade tejto spoločnosti, pripomína AFP. Jeho automobilka vyvíja systémy umelej inteligencie, ktoré majú pomôcť pri autonómnom riadení vozidiel.
List iniciovala organizácia Future of Life Institute, ktorú Musk financuje, a podpísal ho aj Emad Mostaque, šéf spoločnosti Stability AI – priameho konkurenta OpenAI.
V liste citujú aj výrok zakladateľa OpenAI Sama Altmana, že "v určitom okamihu môže byť pred začatím vývoja budúcich systémov dôležité získať ich nezávislé preskúmanie".
"Súhlasíme. Tento okamih je teraz," napísali autori listu. Z tohto dôvodu zároveň vyzvali všetkých vývojárov umelej inteligencie, aby aspoň na šesť mesiacov pozastavili vývoj systémov výkonnejších ako GPT-4.
Šesť mesiacov má byť podľa autorov listu využitých na vývoj bezpečnostných protokolov, riadenia umelej inteligencie a zameranie sa na výskum, aby boli dané systémy presnejšie, bezpečnejšie, "dôveryhodné a lojálne".
List možné hrozby najnovšej verzie chatbotu od firmy OpeanAI GPT-4 nešpecifikuje. Odborníci však dlhodobo tvrdia, že chatboty sú skvelými "klamármi" a majú potenciál stať sa obrovskými šíriteľmi dezinformácií.
V období šesťmesačnej pauzy by mali odborníci vytvoriť protokoly, ktoré by zabezpečili, aby AI systémy nepredstavovali pre ľudstvo nebezpečenstvo. Mnohí experti sa totiž podľa amerického portálu Time obávajú, že v momente, kedy sa preteky v zbrojení umelej inteligencie rozprúdia naplno, ľudstvo upadne do „námesačnosti“.
Na druhej strane spektra stoja zástancovia vývoja umelej inteligencie, ku ktorým patrí aj zakladateľ Microsoftu Bill Gates.
Podľa jeho slov by sa mohla umelá inteligencia podieľať napríklad na boji proti chudobe.
„Rozvoj umelej inteligencie rozviaže ľuďom ruky, aby mohli robiť veci, ktoré softvér nikdy robiť nebude – napríklad učiť, starať sa o pacientov a pomáhať starším ľuďom,“cituje slová zakladateľa Microsoftu portál E15.
