„Věřte AI“ je špatná rada pro každého, kdo řídí firmu.
Ten moment znáte. Systém vám ukáže číslo, všichni kývnou, kývnete taky, i když byste neuměli říct, odkud to číslo je. To kývnutí je ten problém.
AI používám každý den. Ale důvěra není to správné slovo. Když mi systém podá závěr, chci nejdřív vidět, jak k němu došel. Na co se díval, proč tohle a ne tamto, kde se může mýlit.
Když se na tohle nemůžu zeptat, nerozhoduju. Poslouchám. A šéf, který poslouchá černou skříňku, potichu odevzdal tu jedinou část práce, která je opravdu jeho: úsudek.
Řešení není méně AI. Je to AI, kterou můžete vyslýchat. Ukaž mi vstupy, ukaž mi logiku, nech mě se ohradit a sledovat, jestli odpověď vydrží, nebo se rozpadne.
Dobré rozhodnutí tenhle tlak vydrží. Když systém neumí ukázat, jak k výsledku došel, nedává vám rozhodnutí. Dává vám sebevědomý odhad.
Důvěra patří lidem. Od nástrojů chci průhlednost.
Kterým nástrojům teď věříte, aniž byste si je mohli ověřit?