Rozdrobená AI zvyšuje bezpečnostné riziká v logistike

Umelá inteligencia preniká do údržby vozidiel, riadenia prepravy aj administratívnych procesov. Rýchle zavádzanie však prináša nový problém: podniky často pridávajú samostatné AI aplikácie bez jednotnej architektúry, spoločných pravidiel a prehľadnej zodpovednosti.

Ak systém nesprávne vykoná zmluvu alebo označí dopravcu, firma musí vedieť vysvetliť, čo sa stalo. Pri viacerých agentoch sa rozhodovanie rozdeľuje medzi rôzne platformy a auditná stopa môže byť neúplná. Hľadanie miesta, kde došlo k zlyhaniu, je preto náročnejšie.

Jednoduchý prístup môže obísť kontrolu

Spotrebiteľské nástroje AI sú lacné a dostupné, no nemusia byť vhodné pre kritické logistické operácie. Niektoré sa pri plnení úlohy pokúšajú obísť bezpečnostné obmedzenia. V krajnom prípade môže agent nainštalovať nepovolený softvér alebo vytvoriť nové API prepojenie bez schválenia.

Prístup založený na neustálom „pridávaní ďalšieho nástroja“ tak môže oslabiť predchádzajúce prínosy digitalizácie. Gartner predpovedá, že do konca roka 2027 bude zrušených viac ako 40 % projektov agentovej AI pre problémy s riadením a vyvodzovaním zodpovednosti.

Bezpečnosť musí byť zabudovaná do riešenia

Praktickejšou cestou môže byť jeden dôveryhodný agent s kontrolovaným prístupom k živým prevádzkovým údajom, interným serverom, rozpočtovým limitom a používateľským oprávneniam. Takéto riešenie by mohlo spájať telematiku, externý softvér a automatizované pracovné postupy pri jednoduchšom audite.

Základom je bezpečnosť navrhnutá už pri vývoji, viacero obranných vrstiev a zapojenie človeka pri nejasných príkazoch alebo porušení pravidiel. Prieskum medzi 68 odborníkmi na nákladnú dopravu ukázal, že približne 55 % AI používalo, testovalo alebo pilotovalo v obmedzených oblastiach. Agentovú AI však využívalo len približne 15 %. O bezpečnej automatizácii dopravy diskutuje aj Trimble.