Tekoäly muokkaa häiriöiden hallintaa, mutta hankalat ongelmat vaativat edelleen ihmisiä

Incident Fest -alan huippukokouksessa Uptime Labs, Chime ja Rootly keskustelivat tekoälyn roolista häiriötilanteiden hallinnassa. He totesivat, että vaikka tekoäly voi vähentää kognitiivista kuormitusta, tiimien on vältettävä ihmistaitojen, tilannetietoisuuden ja päätöksentekokyvyn heikentämistä. Uptime Labsin mainitsema J. Paul Reedin tutkimus osoittaa, että tarkat tekoälyehdotukset parantavat tehokkuutta, mutta harhaanjohtavat ehdotukset johtavat huonompaan ihmisen suoritukseen kuin ilman tekoälyä. Paneeli esitteli 'jäännösperiaatteen': kun automaatio hoitaa rutiinitehtävät, ihmiset käsittelevät vain ei-rutiininomaisia, monitulkintaisia ongelmia. Tämä luo riskejä: jäljelle jäävät häiriöt ovat vaikeampia, ihmistaidot voivat heikentyä harjoituksen puutteesta, tilannetietoisuus voi laskea ja voi syntyä 'vastuukuilu', jossa ihmiset ovat edelleen vastuussa mutta heiltä puuttuu asiantuntemus. Paneeli väitti, että yritysten tulisi investoida koulutukseen, kuten harjoituksiin, simulaatioihin ja kaaostekniikkaan. NIST:n vuoden 2026 tutkimus, joka koskee käytössä olevien tekoälyjärjestelmien valvontaa, toisti nämä huolenaiheet korostaen riittämätöntä tutkimusta ihmisen ja koneen välisistä palautesilmukoista sekä haastetta laajentaa ihmisjohtoista valvontaa. Lisäksi tekoälyavusteinen kehitys voi lisätä muutosten määrää, mikä nostaa häiriötiheyttä; siksi vankat ohjelmistotuotannon käytännöt, kuten julkaisunhallinta, havaittavuus ja nopea palautus, tulevat entistä tärkeämmiksi.