Tausende isolierte Durchläufe, jeder in etwa einer Sekunde gestartet
Bestärkendes Lernen an echten Aufgaben braucht eine echte Umgebung: einen Rechner, den die Politik kaputt machen, zurücksetzen und wieder kaputt machen darf. Das Schwere ist nie die eine Umgebung. Es sind dreißigtausend davon, günstig, jetzt.
Munito AI startet eine Sandbox in etwa einer Sekunde und rechnet sie sekundengenau ab. Ein Lauf startete 32.752 davon auf einmal, über die öffentliche API, aus Paris.
Warum eine Sandbox zu einem Durchlauf passt
| Ein Durchlauf braucht | Eine Sandbox gibt es ihm |
|---|---|
| Isolierung | Einen eigenen Rechner; ein Durchlauf erreicht den anderen nicht |
| Einen schnellen Start | Etwa eine Sekunde, also ist die Umgebung nicht der Engpass |
| Ein sauberes Zurücksetzen | Wegwerfen und aus demselben Abbild neu forken |
| Eine echte Shell | Befehle, Dateien, Pakete, Ports, einen Browser, einen Desktop |
| Ehrliche Kosten | Sekundengenau, ab $0.0073 die Stunde für tiny |
Eine tiny-Sandbox hat 1 vCPU und 128 MiB für $0.0073125 die Stunde. Eine default hat 2 vCPUs und 4 GiB für $0.018. Gesicherter Zustand kostet $0.0002 je GiB-Stunde, etwa $0.15 je GiB-Monat.
Aus einem Abbild forken, nicht neu bauen
Bauen Sie die Umgebung einmal: das Repository, die Abhängigkeiten, die Testdaten, den Dienst, mit dem sie spricht. Pausieren Sie sie. Dann forken Sie sie für jeden Durchlauf.
Ein Fork startet mit dem ganzen Baum an Ort und Stelle, sodass die Politik bei Schritt eins beginnt, statt auf eine Installation zu warten. Das ist der Unterschied zwischen einem Stapel Durchläufe, der Minuten braucht, und einem, der Stunden braucht. Siehe Persistenz.
Der Maßstab ist das Produkt
Einen Rechner zu starten ist leicht. Dreißigtausend zu starten, sie isoliert zu halten und wieder abzubauen, ohne Geld zu verlieren, ist der Teil, der schwer zu bauen und langweilig zu pflegen ist.
Die Tafel auf der Sandboxes-Seite ist genau so ein echter Lauf: eine Sandbox je Pixel der Wortmarke, 32.752 auf einmal, live gezählt.
Nutzen Sie Netzwerke, um zu bestimmen, was ein Durchlauf erreichen darf, was bei einer fremden Politik meist nichts ist.
Die Durchläufe mit demselben Konto bewerten
Ein Belohnungsmodell ist ein Inferenzaufruf. Lassen Sie die Politik auf Sandboxes laufen, bewerten Sie die Mitschriften mit einem offenen Modell über denselben Schlüssel, und halten Sie beides in der Region Ihrer Wahl. Strukturierte Ausgaben machen aus einer Note ein Feld statt eines Satzes, den man zerlegen muss.
Offene Modelle zählen hier aus einem zweiten Grund: Sie können das Modell betreiben, gegen das Sie trainieren, nicht nur das, was ein Anbieter verkauft. Ein dedizierter Endpunkt betreibt ein offenes Modell, das der öffentliche Katalog nicht führt.
Was wir nicht tun
Wir trainieren nicht. Es gibt keine API für Fine-Tuning, keinen Trainer, keinen Speicher für Checkpoints. Wir betreiben die Umgebungen und die Inferenz; die Lernschleife gehört Ihnen, und die Gewichte auch.
Brauchen Sie GPUs stundenweise zum Trainieren, ist das ein anderes Produkt, und wir sagen es Ihnen.
Die Teile, nach denen eine Sicherheitsprüfung fragt
Durchläufe führen fremden Code aus, das ist ihr Zweck. Jede Sandbox ist isoliert, die Netzregel setzen Sie, und nichts bleibt, wenn Sie es nicht verlangen. Die Inferenz behält standardmäßig keine Anfragen und keine Ausgaben und trainiert mit nichts, was Sie senden.
Die ganze Plattform kann in Ihrem eigenen Cloud-Konto oder vor Ort laufen. Siehe Enterprise.
Anfangen
- Den Sandboxes-Leitfaden lesen
- Aus einem Abbild forken
- Bestimmen, was ein Durchlauf erreicht
- Mit einem Ingenieur sprechen über den Maßstab und die Form Ihrer Schleife