Zuckerberg maakt vertrouwen tot concurrentievoordeel

OpenAI en Anthropic willen de ontwikkeling van AI gezamenlijk vertragen om veiligheidsmaatregelen de vooruitgang te laten bijhouden. Zoals besproken in het eerdere artikel over AI-veiligheid en concurrentie, kunnen zulke afspraken tegelijk de marktpositie van de koplopers beschermen.

Mark Zuckerberg kiest nu openlijk een andere positie. In zijn reactie op het debat schrijft hij:

“Trust and alignment are quickly becoming the most important capabilities that will differentiate agents and models.”

Met alignment bedoelt hij dat een AI-systeem doet wat mensen bedoelen en willen. Zuckerberg denkt niet dat alle AI-bedrijven samen hoeven af te spreken om langzamer te ontwikkelen. Ieder bedrijf kan zelf vertragen wanneer dat nodig is om een model veilig te maken. Meta stelde de introductie van Muse volgens hem zelf enkele maanden uit om aan veiligheid en beveiliging te werken.

Veiligheid wordt onderdeel van het product

Zuckerberg draait daarmee de gebruikelijke redenering om. Veiligheid is niet een beperking die de ontwikkeling vertraagt. Het wordt ook een eigenschap waarmee een AI-bedrijf klanten wint.

Dat wordt belangrijker naarmate AI meer zelfstandig voor mensen gaat handelen. Een chatbot hoeft alleen een bruikbaar antwoord te geven. Een AI-agent krijgt mogelijk toegang tot e-mail, documenten, agenda's, betalingen en bedrijfssoftware. Gebruikers zullen zulke systemen alleen inzetten als ze erop vertrouwen dat die hun bedoeling begrijpen en niet onverwacht handelen.

Een AI-bedrijf heeft daardoor een commerciële reden om zijn modellen veilig en betrouwbaar te maken. Wie daarin achterblijft, bouwt misschien snel een krachtig model, maar geen product waaraan gebruikers belangrijke taken durven toe te vertrouwen. Vertrouwen en alignment worden zo concurrentievoordelen.

Een bredere visie voor Meta

Die gedachte sluit aan op het uitgebreide essay dat Zuckerberg een maand eerder publiceerde. In The Future is for Everyone verdedigt hij open modellen en waarschuwt hij voor een AI-sector waarin een klein aantal bedrijven de krachtigste systemen controleert:

“Open source is a positive and important force for empowering people and preventing centralization.”

Ook hier zet hij zich af tegen de richting die OpenAI en Anthropic kiezen. Zij benadrukken de risico's van krachtige AI en de noodzaak om de ontwikkeling en toegang gezamenlijk te begrenzen. Zuckerberg legt juist de nadruk op concurrentie, open modellen en het verspreiden van AI over veel gebruikers en bedrijven.

Daarmee ontstaat een duidelijke positionering voor Meta. Het bedrijf wil niet alleen concurreren op de prestaties van zijn modellen, maar ook op een eigen visie voor de AI-sector: open in plaats van gesloten, verspreide macht in plaats van centrale controle en vertrouwen als resultaat van concurrentie.

Zuckerberg lijkt opvallend veel tijd te steken in het uitwerken van die positie. In twee uitgebreide bijdragen kiest hij nadrukkelijk een ander verhaal dan OpenAI en Anthropic. Meta zet zich daarmee neer als AI-bedrijf met een fundamenteel andere visie op hoe de sector zich moet ontwikkelen.