Les grands modèles d’IA générative – modèles de langage, modèles de langage vision, architectures cognitives multimodales – produisent des résultats qui sont, par conception, probabilistes. Leur pouvoir de raisonnement vient de cette propriété. Mais les systèmes physiques qu’ils pilotent de plus en plus – véhicules autonomes, robots industriels, actionneurs critiques pour la sécurité – ne peuvent pas tolérer un comportement probabiliste dans les boucles qui affectent la sécurité physique. Le freinage d'urgence d'un drone ne peut pas être un échantillon d'une distribution.
Les approches existantes soit acceptent le non-déterminisme (et limitent les enveloppes opérationnelles là où cela est tolérable), soit suppriment complètement l’IA des voies de sécurité (ce qui sacrifie la capacité). Shield Brain est l'architecture qui permet aux deux de coexister, avec une séparation formelle appliquée au niveau matériel, non promise au niveau logiciel.