Ruští vědci pochybují, že umělé inteligenci lze bezpodmínečně důvěřovat

Na minulém prezidiu Ruské akademie věd se probíralo velmi důležité téma související s technologiemi umělé inteligence. Vědci se tedy během diskuse snažili pochopit, jak moc lze umělé inteligenci (AI) věřit a kde je hranice, po které se člověk musí rozhodnout sám.

Věřte tomu nebo ne, umělá inteligence

Takže podle prezidenta Ruské akademie věd A. Sergeeva, AI je takzvaná "černá skříňka", které ani samotní tvůrci plně nerozumí, jak funguje. A tak vyvstává velmi logická otázka: Je možné věřit závěrům AI, když nedokážeme vysledovat řetězec závěrů, které tento „stroj“ dělá?

Ve skutečnosti umělá inteligence již dělá poměrně velké množství operací lépe a rychleji než lidé.

A může být lákavé v zásadě opustit vědu, protože odborník s průměrnou schopností může zadávat určité úkoly a číst odpovědi z AI.

Ale pouze v případě úplné a nevybíravé důvěry v AI řešení můžete získat vysoce zkreslený obrázek, který může být docela drahý.

Věc se má tak, že člověk je příliš nakloněn technologii důvěřovat, ale s umělou inteligencí je vše mnohem složitější. Jde o to, že lidstvo stále nedokáže plně vysvětlit, jak funguje lidský mozek.

A stejně tak neexistuje pochopení toho, jak funguje umělá inteligence, která je postavena analogicky s lidským mozkem. Neuronové sítě jsou totiž založeny na poměrně jednoduché rovnici jednoho neuronu.

Ale pouze v případě, kdy se do práce zapojí například 600 miliard takových komponent najednou, absolutně nikdo s jistotou neřekne, jaká spojení se v neuronové síti tvoří.

Kromě toho vědci poznamenali, že jak se neuronové sítě vyvíjejí, objevují se stále více nevýhod. Koneckonců, na začátku se AI učí z milionů různých příkladů.

Často ale i při nepatrné odchylce od parametrů „naučených“ během tréninku začne systém podávat nesprávné výsledky.

Takže docela nápadným příkladem je neuronová síť vytvořená IBM, účelově vytvořená pro lékařské potřeby. Ukázalo se tedy, že IBM AI provádí diagnózy na úrovni docela průměrného lékaře. To znamená, že i když technologie AI umožňují vytvářet chytré systémy, nejsou zdaleka dokonalé.

A závěrem diskuze vědci došli k závěru, že vzhledem ke stále rostoucímu trendu ve vývoji a využívání umělé inteligence je prostě nutné vytvořit určitou analog GOST, který umožní plně využívat AI až poté, co systém projde celou řadou kontrol a vědci jsou přesvědčeni, že AI nebude fungovat chyby.

Napište do komentářů, jak vy osobně vnímáte používání AI v běžném životě. Pokud se vám materiál líbil, ohodnoťte jej a nezapomeňte se přihlásit k odběru kanálu. Děkuji za pozornost!