Společnost AXA XL chce pomoci firmám řídit rizika vyplývající z vývoje jejich vlastních modelů generativní AI (genAI). Řešením má být rozšíření současného kybernetického pojištění o nové situace spojené s genAI.
Michael Colao, Global Chief Underwriting Officer, říká: „Stále více společností investuje do vývoje své vlastní generativní umělé inteligence. Tím chtějí zpravidla zlepšit efektivitu a zvýšit zákaznickou zkušenost. S tím ovšem souvisí rizika, jako je potenciální zneužití, problémy s dodržováním regulací a potřeba robustních ochranných opatření k zajištění odpovědného a bezpečného nasazení.“
Nové pojistné krytí AXA XL pro genAI pokrývá následující rizikové oblasti:
- Krytí proti data poisoningu:
Manipulace nebo kontaminace tréninkových dat, nejen dat klienta, používaných k vývoji modelů a strojového učení může být relativně jednoduchá záležitost s dalekosáhlými důsledky. Podsunutím zavádějících nebo nepravdivých informací do trénovacích dat mohou útočníci ohrozit výkon a přesnost výsledných systémů umělé inteligence. Ty pak nemusí fungovat správně a následné čištění dat a nové trénování by bylo velmi nákladné. Zároveň nelze vyloučit, že použití chybných modelů by vedlo třeba k žalobám od uživatelů kvůli poskytování nepravdivých informací.
- Porušení autorských práv:
Nedbalé získání příslušných oprávnění k použití konkrétních položek nebo dat, jako jsou materiály chráněné autorskými právy, softwarové licence a duševní vlastnictví ve strojovém učení je další typ rizika související s trénováním a používáním AI modelů. Výsledkem bude na rozdíl od prvního příkladu dobře fungující genAI, ale bude docházet k trvalému porušování autorských práv.
- Neplnění předpisů a regulací:
Tady jde o odpovědnost vyplývající ze zákona Evropské unie o umělé inteligenci, jehož cílem je regulovat vývoj a zavádění systémů umělé inteligence. Jako příklad může být například genAI, která nadržuje nějaké skupině uživatelů či klientů. Nebou použití citlivých dat pro vývoj jednotlivých modelů.
„Naši klienti hledali pomoc v tomto neprobádaném území a s přispěním a zpětnou vazbou našich makléřů jsme rádi, že můžeme vyvinout inovativní řešení pojištění, které má vedoucí postavení na trhu. Poskytneme jasné krytí těchto rizik a pomůžeme firmám využít genAI bez starostí.“ Dodal Colao.
Zdroj: tisková zpráva
