Umetna inteligenca vse hitreje prehaja iz eksperimentalnih projektov v vsakodnevne poslovne procese, informacijske sisteme, industrijska okolja in robotiko. Ob tem v ospredje prihaja vprašanje zaupanja v sisteme UI – njihove varnosti, zanesljivosti, preverljivosti in odgovorne uporabe.
Pri uvajanju umetne inteligence v podjetja ni več dovolj zgolj dokazati, da tehnologija deluje. Za uspešen prehod iz pilotnih projektov v dejansko uporabo so pomembni povezovanje z obstoječimi sistemi, upravljanje podatkov, nadzor nad odločitvami ter jasna odgovornost za delovanje sistemov.
Poseben izziv predstavljajo avtonomni UI-agenti in fizična umetna inteligenca, ki lahko izvajajo naloge v poslovnih sistemih ali delujejo v fizičnem svetu. Pri robotih, vozilih in industrijskih sistemih postajajo zato ključni testiranje, validacija, varnostni mehanizmi in možnost človeškega posredovanja.
Razvoj umetne inteligence tako vse bolj prehaja od vprašanja, kaj UI zmore, k vprašanju, kako jo varno in zanesljivo vključiti v realna okolja. To bo pomembno tudi za slovensko industrijo, ki se pri digitalni preobrazbi sooča z vedno več možnostmi uporabe UI – od optimizacije procesov do napredne robotike in avtonomnih sistemov.