Marc Benioff slår til lyd for ansvarlig udvikling af kunstig intelligens netop som Salesforce binder sin væksthistorie tættere til Anthropic og den næste bølge af virksomheds-AI.
Salesforces topchef Marc Benioff advarer om, at AI-industrien risikerer at gentage de skadevirkninger, som sociale medier har påført samfundet, hvis ikke ansvar og etik tænkes ind fra starten.
Udmeldingen kommer midt i en tiltagende debat om AI-sikkerhed, hvor flere ledere i frontlinjen efterlyser stærkere værn, inden modellerne bliver endnu mere kraftfulde og udbredte.
Benioffs budskab er samtidig bemærkelsesværdigt, fordi Salesforce selv er dybt involveret i at bringe de nye modeller ud til virksomheder via sine produkter.
Markedet reagerer følsomt på signaler om tempoet i AI-udviklingen, og enterprise-softwareaktier har svinget i takt med investorernes narrativ om disruption versus produktivitetsløft.
Det oplyser CNBC.
Etik som konkurrenceparameter i enterprise-AI
Benioff pegede på, at sociale medier skabte betydelige skadevirkninger for både virksomheder og individer, og understregede, at det ikke må gentage sig i AI.
I et interview sagde han: “Vi vil ikke have, at det sker i AI.” Pointen er strategisk: For en virksomhed som Salesforce, der lever af at være “system of record” for kundedata, kan tillid blive en hård valuta, når AI flytter fra pilotprojekter til kerneprocesser som kundeservice, salg og automatiseret sagsbehandling.
Jo tættere AI integreres i forretningskritiske workflows, desto større bliver kravene til sporbarhed, ansvar og governance.
Tætte bånd til Anthropic – men ingen bremseklods
Advarslen falder samtidig med, at Salesforce ruller “Claudeforce” ud, som via en plugin gør det muligt at bruge Anthropics Claude på data i Salesforce til opgaver som e-mails og opdatering af kunderegistre.
Benioff går dog ikke med til at kritisere AI-selskaber direkte eller støtte deciderede opfordringer til at sænke tempoet; i stedet lægger han ansvaret på udviklerne for at vurdere de bredere konsekvenser.
På Dreamforce-scenen kvitterede Anthropics Dario Amodei med en opfordring til at sætte et eksempel for branchen.
Investorerne vejer risiko mod produktivitet
Markedets reaktion understreger, at AI-sikkerhed ikke kun er politik og etik, men også prissætning.
Salesforce-aktien gav tirsdag noget tilbage efter et forudgående løft, mens sektoren dagen før steg på forventninger om mere ansvarlig udvikling.
Samtidig er Salesforce steget markant fra sit 52-ugers lavpunkt, i takt med at Wall Street i stigende grad indregner, at AI i praksis oftere bliver et værktøj end en fuld erstatning for videnarbejde.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
