Olen huolissani siitä, että niin paljon keskustelua tekoälyn riskeistä ja linjauksesta jättää huomiotta huoneen melko suuren norsun: luovuuden ja avoimuuden. Poliittisten päättäjien ja portinvartijoiden on ymmärrettävä kaksi kilpailevaa voimaa, joista kukaan ei näytä puhuvan: (1) rajalaboratorioilla on valtava taloudellinen kannustin lisätä malliensa luovuutta, ja (2) mitä enemmän yrität kontrolloida ja rajoittaa mallin (tai jopa henkilön!) käyttäytymistä, sitä vähemmän luovaa se on. Näiden kilpailevien voimien välinen jännite suosii lopulta #1:tä, koska luovuudella on niin valtava taloudellinen potentiaali. Tämä tarkoittaa, että mallien hallinta- ja rajoittamismenetelmät (esim. kohdistamalla niitä) kohtaavat voimakkaita vastatuulia. Koska luovuus voittaa lopulta pelkästään taloudellisin perustein (ja meillä on todellakin valtavasti hyötyä luovasta tekoälystä), meidän pitäisi tarkastella vähemmän "mielenhallinnan" menetelmiä, joilla malleja voidaan kääntää ajattelemaan ajatuksia, joita haluamme heidän ajattelevan (koska väistämättä hylkäämme ne), ja enemmän sitä, miten institutionaalisia voimia on käytetty pitämään ihmiset linjassa käyttäytymisessä, vaikka olemme vapaita ajattelemaan niin villisti kuin haluamme. Institutionaaliset valvontajärjestelmät - lait, yhteiskunnan kannustinrakenteet, kilpailevat hallinnonalat ja hallinto, joidenkin ihmisten vipuvaikutus valvomaan muita eri tilanteissa, hyväksyntä, hyväksyntä tai yhteistyö asioiden hoitamiseksi - tarjoavat todellisen suojakaiteen ihmisten keskuudessa tapahtuvia katastrofeja vastaan. On selvää, että järjestelmä on epätäydellinen, mutta se on ennakkotapaus siitä, kuinka sallia riittävän luovuuden tavoitella radikaaleja innovaatioita, mutta silti olla tarpeeksi järjestystä, jotta sivilisaatio säilyy tai jopa kukoistaa. Jos emme ota tätä ennakkotapausta vakavasti, linjauksen suojakaiteet putoavat yhä enemmän (ja hiljaa) pois, kun kahlitsemattoman mielikuvituksen taloudelliset hedelmät tulevat selkeämmiksi ja selkeämmiksi.