GenAI Guardrails: Kuka tekee tämän parhaiten palveluna? Salatussa verkossa on kolme tilaa: { Tiukka | Salliva | Avaa }. "Tiukka" estää oletusarvoisesti aikuisille tarkoitetun sisällön, ja vastineeksi sillä on pääsy parhaisiin, omiin malleihin. "Salliva" (oletus) on kaksitahoinen strategia: ensin yritetään työskennellä useiden palveluntarjoajien kanssa (jos saadaan vääriä positiivisia tuloksia) ja palataan turvapyynnön kirjoittamiseen uudelleen. "Avoin" ei tuomitse sisältöä, ja se täyttyy hajautetusta palveluntarjoajien verkostosta, joka voi olla avoimempi aikuisille suunnatulle sisällölle. --- Laittoman* sisällön estämiseksi meillä on kuitenkin edelleen vahvat suojakaiteet, kuten perustuslailliset luokittelijat. The Catch-22? Ulkoisiin malleihin luottaminen sisällön arvioinnissa voi itsessään rikkoa palveluntarjoajan käyttöehtoja. (Kuten automaattinen reititys OpenAI:n salaisiin malleihin). Kuka tekee tämän parhaiten? Anthropic esitteli todella vahvoja kykyjä äskettäisessä tietoturvahackathonissaan. Kuka muu?

Ajatuskoe: miten hajauttaisit itse suojakaiteen säilyttäen samalla käyttäjien yksityisyyden? Yksi idea olisi käsitellä sitä "miksauspalveluna": kuten Tornado Cash sisällölle kolikoiden sijaan. Sinulla olisi useita solmuja, jotka vastaanottavat eriä sisältöä tarkistettavaksi, ja ne käyttävät ZK-todisteita todistaakseen laillisen/laittoman + sisältöluokituksen jokaiselle niistä, mutta eivät tiedä lähteitä. Silloin portti voisi hylätä työn ja tarjota todisteita "miksi" ilman, että sitä syytetään tarpeettomasta puolueellisuudesta/sensuurista. Sitten he olisivat osa kannustettua verkkoa yhdyskäytäväkerroksessa.

Esimerkki: oletetaan, että loin kääreen AWS-tunnuksillesi, joilla on pääsy Bedrock Guardrailsiin. Sitten miksaukseen osallistumisesta maksoimme pienen palkkion ETH:sta Basessa, jota hallinnoi ehkä EigenCloudiin rakennettu prototyyppien koordinointipalvelu@eigenlayer. Sitten kuka tahansa saattoi liittyä mukaan ja jakaa kuormaa ja sisällön miksausta. Minun on mitattava tämän latenssi.