Apple stuurt Siri naar Gemini: bouw je eigen classifier

Een founder voor wie wij bouwen in Utrecht stuurde ons de ochtend na WWDC een bericht. Haar vraag paste op één regel: "Als we de natuurlijke-taalinvoer van onze food-tracker nu via Apple Intelligence laten lopen, ziet Google dan wat onze gebruikers hebben gegeten?" Het eerlijke antwoord is dat het contractuele antwoord en het technische antwoord deze week uit elkaar zijn gaan lopen, en voor kleine Nederlandse apps zit daar het hele probleem.

Apple's nieuwe AI-architectuur verplaatst Siri's redeneerlaag naar de Gemini-modellen van Google, gerouteerd via de eigen Private Cloud Compute van Apple. De marketing-framing is dat er voor de gebruiker niets verandert. De framing voor developers, zeker voor wie AVG-plichtige apps bouwt voor operationele teams en consumenten in Nederland, is dat drie stille garanties net onder de vloer zijn verschoven.

De architectuur in één alinea

Apple Intelligence bestond bij de lancering uit twee lagen: een klein on-device Apple foundation model voor routinematige inference, en Private Cloud Compute voor alles wat zwaarder was. Beide door Apple getraind. De architectuur na WWDC houdt de lokale laag grotendeels intact, maar stuurt de zware queries via Gemini-inference binnen de PCC-envelope van Apple. De model-gewichten zijn van Google. Het data-vlak en het auditlog zijn nog steeds van Apple. Het vertrouwensverhaal is nu een contract tussen twee van de grootste datafirma's ter wereld.

Dat is prima voor de meeste consumentenflows. Het is niet prima als een app medische logs, salarisdata, vruchtbaarheidsdata of iets anders verwerkt waarbij de gebruiker verwachtte dat een telefoon een telefoon bleef.

Garantie één: on-device als standaard

Vijf WWDC's op rij was de boodschap van Apple dat je data op je iPhone blijft, tenzij je daar zelf actief voor kiest. App Intents die in Siri's zwaardere redenering haakten doorbraken die grens al vanaf de eerste oplevering, maar de grens had in elk geval een Apple-vorm. Met Gemini in de lus betekent "off-device" nu "off-Apple" op een manier die de juridische afdeling op papier moet zetten.

Voor het food-tracker voorbeeld telt dat. Een vrije-tekstinvoer als "glaasje Karvan Cevitam gelogd voor de kleine" draagt het voedingspatroon van een kind. De gebruiker heeft dat niet aangevinkt voor een buitenlands trainingscorpus, ook al zegt het contract dat dat niet hoefde.

Garantie twee: datasoevereiniteit binnen de EU

De PCC-datacenters van Apple zaten bij de lancering vooral in de VS. De belofte was dat de keten van bewaring end-to-end attesteerbaar was. Gemini toevoegen verschuift de inference-geografie niet per se, maar verandert wel de regulatoire vorm. Onder de AVG hoort elke sub-processor expliciet in de verwerkersovereenkomst die je met je zakelijke klanten tekende. Apple als verwerker was al een voetnoot. Apple plus Google als sub-verwerker is een aparte alinea en een nieuwe DPIA op het bureau van je FG.

Voor consumentenapps is dat vooral een papierwerkprobleem. Voor de zakelijke mobiele apps die onze klanten in Rotterdam en Amsterdam voor hun eigen ops-teams laten bouwen, is het een inkoopgesprek dat ze dit kwartaal niet hadden begroot.

Garantie drie: model-isolatie

Het oude verhaal was "geen derde partij traint op je prompt". Dat was een technische garantie, omdat er geen derde partij in de kamer zat. Het nieuwe verhaal is "Google gaat er contractueel mee akkoord om niet op gerouteerde queries te trainen". Beide kunnen waar zijn. Slechts één van die uitspraken overleeft een serieuze datalek-melding.

Wat wij in plaats daarvan in de Nederlandse apps shippen

Voor de meeste natuurlijke-taal entrypoints in de apps die wij bouwen is het zware model overkill. De gebruiker gaat één van ongeveer veertig intents typen. "Eten loggen", "herinnering zetten", "laatste week tonen", "CSV exporteren", "account verwijderen". Een multinomial classifier bovenop de NaturalLanguage word embeddings van Apple handelt ze allemaal af in milliseconden en past in minder dan vijftien megabyte.

De pipeline:

1. Verzamel 50 tot 150 voorbeelden per intent uit je bestaande analytics, of schrijf ze met de hand.
2. Train een text classifier in Create ML (de GUI tool zit standaard in Xcode).
3. Sleep het resulterende .mlmodel in je app-target.
4. Wikkel het in een Swift-class die je view models kunnen aanroepen.

De Swift-kant past op één pagina:

import CoreML
import NaturalLanguage

final class LocalIntent {
    static let shared = LocalIntent()
    private let model: NLModel

    private init() {
        guard let url = Bundle.main.url(forResource: "AppIntents", withExtension: "mlmodelc"),
              let nl = try? NLModel(contentsOf: url) else {
            fatalError("AppIntents.mlmodelc missing from bundle")
        }
        self.model = nl
    }

    func classify(_ text: String) -> (label: String, confidence: Double)? {
        let hypotheses = model.predictedLabelHypotheses(for: text, maximumCount: 2)
        guard let top = hypotheses.max(by: { $0.value < $1.value }) else { return nil }
        return (top.key, top.value)
    }
}

// Usage in a view model
let entry = "twee bananen gegeten"
if let result = LocalIntent.shared.classify(entry), result.confidence > 0.78 {
    router.route(intent: result.label)
} else {
    // fall through to a fuzzy free-text path, not Apple Intelligence
}

Dat is de hele runtime. Geen netwerk, geen PCC, geen Gemini, geen nieuwe DPIA. Het model leeft in de .ipa, valt onder je bestaande privacyverklaring en draait gewoon door in vliegtuigmodus.

Wanneer je tóch naar de cloud grijpt

Dit is een echte afweging, geen geloofsstandpunt. On-device classifiers hebben moeite met drie dingen: hele lange vrije tekst van meer dan een paar zinnen, onbekende woordenschat die slecht embed, en redeneren over multi-step intents. Voor die gevallen wint een server-call naar een model dat jij beheert het altijd van een Siri-handoff. Draai de inference in je eigen EU-gehoste compute, log onder je eigen verwerkersovereenkomst, en je hebt het privacyverhaal al beantwoord voordat juridisch ernaar vraagt.

De audit van vijf minuten

Open de privacy nutrition label van je app. Loop elke regel onder "Data Used to Track You" en "Data Linked to You" langs. Stel bij elke regel de vraag die de founder ons vrijdag stelde: als een feature op deze regel via Apple Intelligence onder de nieuwe architectuur wordt beantwoord, kun je de formulering van die regel dan nog op papier verdedigen? Is het antwoord "niet zonder eerst juridisch te bellen", dan heeft die flow een lokaal model nodig voor de volgende release.

Toen wij vorige maand de on-device intent-laag shipten voor een Nederlandse voedingsapp, was Core ML niet het lastige deel. Het lastige was de gelabelde dataset opbouwen. Het werk dat wij doen rondom AI-agents en on-device inference heeft precies deze vorm, en we delen de training notebooks graag.

Open morgenochtend, voor de stand-up, Xcode. Maak een nieuw Create ML text classifier-project aan, plak vijftig voorbeeldzinnen uit je app, en druk op Train. Het .mlmodel dat eruit valt is je eerste schriftelijke antwoord aan je FG.