Da Anthropic torsdag fik sin debut på Wall Street, blev det den største børsnotering nogensinde. Ved Nasdaq-åbningen holdt topchef Dario Amodei en tale, hvor han gentog, at selskabet vil udvikle kunstig intelligens (AI) ansvarligt.
Amodei lovede, at Anthropic hverken vil bøje sig for forretnings- eller politisk pres, og at AI-systemerne skal „remain under human control“, altså forblive under menneskelig kontrol. Han læste talen op fra et papir og startede med selskabets udgangspunkt: at bygge kraftfuld teknologi, der skal gavne menneskeheden.
Fra sygdom til forskning
Amodei fortalte, at hans far døde af en sygdom, der få år senere blev mulig at helbrede. Det var en af grundene til, at han begyndte at arbejde med biologi, og til at Anthropic blev grundlagt.
Han mindede om, at menneskelig intelligens har gjort sygdomme som pest, kopper og polio til historie for det meste af verden. Men fremskridt på andre sygdomme går for langsomt, og der er for få forskere med for lidt tid. AI kunne ifølge Amodei hjælpe med at arbejde sammen med mennesker om den medicinske udvikling.
Han nævnte også, at forskere på flere områder bruger Anthropics model Claude til at gøre deres forskning hurtigere. Det gælder blandt andet proteinfolding, lægemiddeludvikling og kræftgenetik.
Risici og bremse
Amodei er ikke i tvivl om, at teknologien har reelle risici. Han nævnte misbrug af individer eller nationalstater, økonomisk forstyrrelse og at miste kontrollen over AI-systemer. Han mener dog, at risiciene kan undgås, hvis der er sikkerhedsforanstaltninger på plads.
Han sagde blandt andet: „There is much work still to be done, and the most difficult safety work lies ahead of us,“ og understregede, at selskabets dygtigste folk skal bruge endnu mere tid på at kontrollere, at AI-systemerne er sikre.
Amodei slog fast, at Anthropic vil tilpasse tempoet i træningen og udrulningen af AI-systemer, så lang tid som nødvendigt, indtil selskabet er sikkert på, at systemerne er trygge og forbliver under menneskelig kontrol. Han har tidligere i september fremlagt en plan for at styre tempoet i AI-udviklingen. Den indeholdt blandt andet koordinering med andre førende virksomheder om sikkerhedsstandarder og eksterne evaluatorer, der skal kontrollere, at virksomhederne holder deres løfter.
OpenAI-topchef Sam Altman, Google DeepMind-chef Demis Hassabis og xAI-ejer Elon Musk har sagt, at de er enige i Amodeis synspunkt. Der er dog kun fremlagt få konkrete forpligtelser.
Hvad betyder det for dig?
Samtidig siger Daniela Amodei, medstifter af Anthropic, til CNBC, at risiciene er reelle, men at løftet fra AI også er „incredible“. Hun mener, at selskabet hidtil har gjort et godt stykke arbejde med at håndtere risiciene, men at der stadig er meget arbejde tilbage.
