Store institusjonelle investorer øker presset på teknologiselskaper til å ta ansvar for potensielt misbruk av kunstig intelligens ettersom de bekymrer seg for ansvar for menneskerettighetsspørsmål knyttet til programvaren.

Collective Impact Coalition for Digital Inclusion, som består av 32 finansinstitusjoner som representerer 6,9 milliarder dollar i eiendeler under forvaltning, inkludert Aviva Investors, Fidelity International og HSBC Asset Management, er blant dem som oppmuntrer teknologiselskaper til å engasjere seg for en etisk AI.

Aviva Investors har holdt møter med teknologiselskaper, inkludert brikkeprodusenter, de siste månedene for å advare dem om å styrke beskyttelsen mot AI-relaterte menneskerettighetsrisikoer, inkludert overvåking, diskriminering, uautorisert ansiktsgjenkjenning og masseoppsigelser.

Louise Piffaut, leder for integreringen av miljømessige, sosiale og styringshandlinger innenfor kapitalforvaltningsarmen til det britiske forsikringsselskapet, sa at møter med selskaper om dette emnet hadde «akselerert i tempo og tone» på grunn av bekymringer om generativ AI, som f.eks. ChatGPT. Hvis engasjementet mislykkes, som med ethvert selskap det engasjerer seg med, kan Aviva Investors stemme mot ledelsen på årlige generalforsamlinger, ta opp bekymringer med regulatorer eller selge aksjer, sa hun.

«Det er lett for selskaper å vike unna ansvar ved å si at det ikke er min feil at de misbruker produktet mitt: det er der samtalen blir vanskeligere,» sa Piffaut.

AI kan erstatte klimaendringer som det «store nye emnet» som bekymrer ansvarlige investorer, sa investeringsbanken Jefferies i et notat forrige uke.

Den økte koalisjonsaktiviteten kommer to måneder etter at Nicolai Tangen, administrerende direktør i Norges oljefond på 1,4 milliarder dollar, avslørte at han ville sette retningslinjer for hvordan de 9000 selskapene han har investert skal bruke AI «etisk», da han ba om mer regulering av den raske veksten. . sektor.

Aviva Investors, som forvalter mer enn 226 milliarder pund, har en liten eierandel i verdens største kontraktsbrikkeprodusent, Taiwan Semiconductor Manufacturing Company, som har sett en økning i etterspørselen etter avanserte brikker som brukes til å lage store AI-modeller som den bak ChatGPT.

Han har også eierandeler i maskinvare- og programvareselskapene Tencent Holdings, Samsung Electronics, MediaTek og Nvidia, samt teknologiselskaper som utvikler generative AI-verktøy som Alphabet og Microsoft.

Kapitalforvalteren møter også forbruker-, media- og industribedrifter for å bekrefte at de er forpliktet til å omskolere arbeidere i stedet for å si opp hvis jobbene deres står i fare for å bli kuttet på grunn av tap av arbeidsplasser.effektivitet knyttet til AI.

Jenn-Hui Tan, leder for forvaltning og bærekraftig investering i Fidelity International, sa at frykten for sosiale spørsmål som «personvernbekymringer, algoritmiske skjevheter og jobbsikkerhet» hadde avtatt. rom for «reelle eksistensielle bekymringer for fremtiden til demokratiet og til og med menneskeheten». «.

Den britiske-baserte gruppen hadde møtt maskinvare-, programvare- og internettselskaper for å diskutere disse problemene, sa hun, og ville vurdere avhending der den følte at fremgangen ikke var tilstrekkelig. .

Legal & General Investment Management, Storbritannias største kapitalforvalter som har styringskoder for saker som avskoging og våpenforsyning, sa at de jobber med et lignende dokument om kunstig intelligens.

Kieron Boyle, administrerende direktør for Impact Investing Institute, en britisk regjeringsfinansiert tenketank, sa at et «økende antall effektinvestorer» frykter AI vil redusere inngangsmuligheter for kvinner og etniske minoriteter i alle sektorer, og skape mangfold i arbeidsstyrken . år tilbake.

Investorer som presser teknologiselskaper til å fokusere på hele forsyningskjedene sine, ønsket å ligge i forkant av potensielle etiske og regulatoriske risikoer, sa Richard Gardiner, EU-sjef for offentlig politikk ved den nederlandske non-profit World Benchmarking Alliance, som lanserte Collective Impact Coalition. Investorer som Aviva fryktet sannsynligvis at hvis de unnlot å handle, kan de en dag bli holdt ansvarlige for menneskerettighetsbrudd fra mottakende selskaper, sa han.

«Hvis du lager en kule som ikke gjør noe i hånden din, men du legger den i andres hånd og den skyter noen, hvor godt sporer du bruken av produktet?» han la til. «Investorer vil vite at standarder er på plass hvis de selv blir ansvarlige.»

Bare 44 av de 200 teknologiselskapene som ble vurdert av WBA i mars hadde publisert et etisk rammeverk for kunstig intelligens.

Noen få viste tegn til bedre praksis, sa alliansen. Sony hadde etiske retningslinjer om AI som må følges av alle ansatte i konsernet, Vodafone hadde regressrett for kunder som føler de er blitt urettferdig behandlet som følge av en beslutning tatt av et AI-system, mens Deutsche Telekom hadde en » kill switch» for å deaktivere AI-systemer når som helst.

Mens bransjer som gruvedrift lenge har vært forventet å ta ansvar for menneskerettighetsspørsmål gjennom hele forsyningskjeden, har regulatorer presset på for å utvide denne forventningen til teknologiselskaper og finansfolk.

EUs Corporate Due Diligence-direktiv, som forhandles fram av medlemsland, utøvende myndigheter og lovgivere, forventes å tvinge selskaper som brikkeprodusenter til å vurdere risikoer for menneskerettigheter i deres verdikjede.

OECD oppdaterte sine frivillige retningslinjer for multinasjonale selskaper tidligere denne måneden for å si at teknologiselskaper bør prøve å forhindre skade på miljøet og samfunnet knyttet til produktene deres, inkludert de som er relatert til «kunstig intelligens.