Wat is er nieuw in de generatieve AI-modellen van Anthropic in Claude 4?
Anthropic heeft aangekondigd dat het extra veiligheidsmaatregelen neemt voor zijn hoogwaardige Claude 4 Opus-model.
Er zijn nieuwe versies van generatieve AI-modellen verschenen. Claude Donderdag verscheen er een zwaarder model van Anthropic, speciaal ontworpen voor codering en complexe taken.
Anthropic lanceerde mijn model Claude 4 Opus en Claude 4 Sonnet De nieuwe tools werden onthuld tijdens de Code with Cloud-ontwikkelaarsconferentie. Volgens leidinggevenden vormen ze een grote stap voorwaarts op het gebied van diepgaand denk- en redeneervermogen.

Het bedrijf lanceerde het vorige model, de Claude 3.7 Sonnet, in februari. Sindsdien hebben concurrerende AI-ontwikkelaars hun prestaties ook verbeterd. OpenAI uitgebracht GPT-4.1 in april, met de focus op een uitgebreid contextvenster, samen met de familie Redeneermodel O3 Nieuw. Google volgde dit begin mei met de release van Bijgewerkt vanaf Gemini 2.5 Pro Ze zei dat hij beter was in programmeren.
Claude 4 Opus is een groter, resource-intensiever model dat is ontworpen om bijzonder moeilijke uitdagingen aan te kunnen. Volgens Dario Amodei, CEO van Anthropic, zagen bètagebruikers dat de app taken die voor een mens normaal gesproken uren duren, snel afhandelde.
"In veel opzichten, zoals we vaak zien bij grote modellen, doen de normen ze geen recht", zei hij tijdens De hoofdact.
Volgens Anthropic heeft Claude 4 aantekeningen gemaakt over hoe je kunt navigeren tijdens het spelen van Pokémon.
De Claude 4 Sonnet is een kleiner model, met verbeteringen gebaseerd op het Claude 3.7 Sonnet-model van Anthropic. Volgens Amodei had het 3.7-model vaak moeite met overenthousiasme en het soms doen van meer dan de persoon vroeg. Hoewel het model minder hulpbronnen vergt, werkt het nog steeds goed.
"Het presteert in sommige coderingsbenchmarks eigenlijk net zo goed als Opus, maar ik denk dat het wendbaarder en specifieker gericht is", aldus Amodei.
Volgens Anthropic hebben de modellen een nieuwe mogelijkheid, die zich nog in de bètafase bevindt, waarbij ze gebruik kunnen maken van hulpmiddelen als webzoekopdrachten en tegelijkertijd uitgebreide redeneringen kunnen uitvoeren. Modellen kunnen schakelen tussen inferentie en instrumentatie om betere antwoorden te krijgen op complexe vragen.
De modellen bieden vrijwel onmiddellijke responsmodi en uitgebreide denkmodi.
Alle betaalde abonnementen bieden Opus en Sonnet aan, terwijl het gratis abonnement alleen Sonnet bevat.
De nieuwe modellen laten zien dat Anthropic zich richt op het bouwen van robuuste coderingsmodellen, aldus Arun Chandrasekaran, onderscheiden vice-president en analist bij Gartner. De Claude-modellen van Anthropic hebben bewezen een sterk leiderschap te zijn op het gebied van software-engineering, en de nieuwste versie van Claude 4 bouwt voort op dit leiderschap.
Anthropic activeert veiligheidsprotocollen met nieuwe Claude-modellen
Anthropic maakte bij de lancering van het model Claude Opus 4 bekend dat het extra veiligheidsmaatregelen had genomen om het risico op misbruik van de Claude te verkleinen. En in Geplaatst op haar blogHet bedrijf gaf aan nog niet te hebben vastgesteld of het model daadwerkelijk de ASL-3-standaardbescherming nodig heeft, maar doet dit als voorzorgsmaatregel.
Veiligheidsmaatregelen zijn er specifiek op gericht te voorkomen dat Claude meewerkt aan de ontwikkeling van chemische, biologische, radiologische of nucleaire (CBRN) wapens. Anthropic legde uit dat het beperkte aanvallen heeft die bekend staan als 'universele jailbreaks', waarmee aanvallers bestaande protocollen kunnen omzeilen. Anthropic voegde in haar bericht toe: "We zullen de CBRN-capaciteiten van de Claude Opus 4 blijven evalueren. Als we concluderen dat de Claude Opus 4 de relevante capaciteitsdrempel niet heeft overschreden, kunnen we de ASL-3-beveiliging verwijderen of aanpassen."
Chandrasekaran merkte op dat de implementatie van veiligheidsnormen opmerkelijk is en legde uit: "Dit omvat verbeterde cyberbeveiligingsmaatregelen en directe claimclassificaties om de risico's die gepaard gaan met krachtige AI-systemen te beperken." Hij voegde toe dat de nieuwe modellen aantonen dat het bedrijf de nadruk legt op het vinden van een balans tussen nieuwe technologie en veiligheid.
Reacties zijn gesloten.