SHREY JAIN: Dank je wel. We zijn blij om terug te zijn.

ZOË HITZIG: Hartelijk dank.

TINTELEN: Shrey, laten we beginnen met een kort overzicht van je paper. Waarom is dit onderzoek belangrijk en waarom denk je dat dit iets is waar we allemaal van op de hoogte moeten zijn?

JAIN: Kwaadwillende actoren hebben anonimiteit uitgebuit om anderen online te misleiden. En historisch gezien werd bedrog gezien als deze ongelukkige maar noodzakelijke kost als een manier om de toewijding van het internet aan privacy en onbeperkte toegang tot informatie te behouden. En vandaag de dag verandert AI de manier waarop we moeten denken over het vermogen van kwaadwillende actoren om succesvol te zijn in die aanvallen. Het maakt het gemakkelijker om content te creëren die niet te onderscheiden is van door mensen gecreëerde content, en het is mogelijk om dit te doen op een manier die alleen maar goedkoper en toegankelijker wordt. En dus wil dit artikel een tegenmaatregel aanpakken om te beschermen tegen door AI aangestuurde misleiding op grote schaal en tegelijkertijd de privacy te beschermen. En ik denk dat de reden waarom mensen zich zorgen moeten maken over dit probleem om twee redenen is. Ten eerste kan het heel snel logistiek heel vervelend worden om met deze verschillende soorten oplichting om te gaan die kunnen voorkomen. Ik denk dat we allemaal vatbaar zijn geweest voor verschillende soorten aanvallen of oplichting die, weet je, mensen hebben gehad. Maar nu gaan deze oplichtingspraktijken veel overtuigender en effectiever worden. En dus kan het voor verschillende doeleinden van herstel erg lastig worden om weer toegang te krijgen tot uw accounts of uw reputatie te herstellen die iemand online kan beschadigen. Maar belangrijker nog, er kunnen ook erg gevaarlijke dingen gebeuren. Kinderen zijn misschien niet meer veilig online. Of ons vermogen om online te communiceren voor democratische processen. Veel van de manier waarop we vandaag de dag politieke standpunten vormen, gebeurt online. En dat is ook in gevaar. En als reactie daarop stellen we in dit artikel een oplossing voor met de titel persoonlijkheidsreferentiesMet persoonlijkheidsreferenties kunnen mensen bewijzen dat ze daadwerkelijk een persoon zijn, zonder dat ze online meer over zichzelf hoeven te onthullen.

TINTELEN: Zoë, vertel ons eens wat er al is gedaan op dit gebied en wat is jouw unieke bijdrage aan de literatuur hierover?

GEWELDIG: Ik zie ons als ingrijpen in twee afzonderlijke werkgebieden. En een deel van wat we in dit artikel doen, is die twee werkgebieden samenbrengen. Er is al tientallen jaren absoluut geweldig werk in cryptografie en beveiliging. En wat cryptografen hebben kunnen doen, is protocollen bedenken waarmee mensen heel specifieke beweringen over zichzelf kunnen bewijzen zonder hun volledige identiteit te onthullen. Dus als je je voorstelt dat je een bar binnenloopt en de barman je vraagt ​​om te bewijzen dat je ouder bent dan 21, of ouder dan 18, afhankelijk van waar je bent, moet je doorgaans je volledige rijbewijs laten zien. En nu onthult dat een hoop informatie. Het zegt, weet je, waar je woont, of je orgaandonor bent. Het onthult een hoop informatie aan die barman. En online weten we niet wat verschillende dienstverleners over ons opslaan. Dus weet je, de barman kan het misschien niet echt schelen waar we wonen of of we orgaandonor zijn. Maar als we ons aanmelden voor digitale diensten en we moeten een zeer onthullende legitimatie tonen, zoals een rijbewijs, om toegang te krijgen tot iets, geven we in zekere zin te veel informatie prijs. En dus is dit ene stuk literatuur waar we echt op terugvallen een literatuur in cryptografie. Het idee waar ik het daar over had, waar je privé alleen geïsoleerde beweringen over jezelf kunt bewijzen, dat is een idee dat een anonieme referentie. Het stelt je in staat om anoniem te zijn met betrekking tot een soort dienstverlener, terwijl je toch een beperkte claim over jezelf bewijst, zoals “Ik ben ouder dan 18”, of in het geval van persoonsgebonden kwalificaties, bewijs je “Ik ben een persoon”. Dat is dus allemaal één geheel van literatuur. Dan is er nog dit enorme andere geheel van literatuur en een reeks gesprekken die op dit moment in beleidscirkels plaatsvinden over wat te doen met AI. Er zijn enorme vragen in overvloed. Shrey en ik hebben een eerder artikel geschreven met de titel “Contextual Confidence and Generative AI”, waar we het ook over hadden in deze podcast, en in dat artikel boden we een raamwerk om na te denken over de specifieke manieren waarop generatieve AI de fundamenten van onze online communicatievormen bedreigt. En we schetsten ongeveer 16 verschillende oplossingen die ons zouden kunnen helpen de komende problemen op te lossen die generatieve AI met zich mee zou kunnen brengen voor onze online ecosystemen. En wat we besloten te doen in dit artikel was ons te richten op een reeks oplossingen waarvan we dachten dat ze niet genoeg aandacht kregen in die AI- en AI-beleidskringen. En een deel van wat dit artikel doet, is het samenbrengen van deze ideeën uit dit lange oeuvre in cryptografie naar binnen die gesprekken.

TINTELEN: Ik wil graag meer weten over je methodologie, Shrey. Hoe is je team te werk gegaan bij het uitvoeren van dit onderzoek?

JAIN: We hadden dus een breed scala aan medewerkers uit de industrie, de academische wereld, de civiele sector die werken aan onderwerpen als digitale identiteit, privacy, belangenbehartiging, beveiliging en AI-beleid die samenkwamen om na te denken over de duidelijkste manier waarop we kunnen uitleggen wat wij geloven dat een tegenmaatregel is die kan beschermen tegen door AI aangestuurde misleiding. Vanuit technologisch oogpunt is er al een groot corpus aan werk waar we naar kunnen verwijzen, maar vanuit een “hoe dit kan worden geïmplementeerd”. We bespreken de afwegingen waar verschillende soorten academici en leiders uit de industrie over nadenken. Kunnen we dat heel duidelijk communiceren? En dus ging de methodologie hier echt over het samenbrengen van een breed scala aan medewerkers om deze twee corpus aan werk echt met elkaar te verbinden en het duidelijk te communiceren – niet alleen de technische oplossingen, maar ook de afwegingen.

TINTELEN: Zoë, wat zijn de belangrijkste bevindingen hier en hoe worden ze in het artikel gepresenteerd?

GEWELDIG: Ik ben van opleiding econoom. Economen praten graag over afwegingen. Weet je, als je een aantal van dithet betekent dat je iets minder hebt Dat. Het is een beetje zoals de hele economie. En een belangrijke bevinding van het artikel, zoals ik het zie, is dat we beginnen met wat voelt als een afweging, namelijk enerzijds, zoals Shrey zei, we willen anoniem online kunnen zijn omdat dat grote voordelen heeft. Het betekent dat we de waarheid kunnen spreken tegen de macht. Het betekent dat we burgerlijke vrijheden kunnen beschermen en iedereen kunnen uitnodigen om online ruimtes te bezoeken. Weet je, privacy is een kernfunctie van het internet. En tegelijkertijd is de andere kant van de afweging die ons vaak wordt gepresenteerd, nou ja, als je al die privacy en anonimiteit wilt, betekent dat dat je geen verantwoording kunt afleggen. Er is geen manier om de slechte acteurs op te sporen en ervoor te zorgen dat ze niet weer iets slechts doen. En we worden geconfronteerd met deze afweging tussen anonimiteit aan de ene kant en verantwoording aan de andere kant. Dat wil zeggen dat een belangrijke bevinding van dit artikel, zoals ik het zie, is dat persoonlijkheidsreferenties en meer in het algemeen deze klasse van anonieme referenties die u toestaan ​​om verschillende delen van uw identiteit online te bewijzen zonder uw volledige identiteit te onthullen, u in feite in staat stellen om de afweging te ontlopen en u in zekere zin in staat stellen om uw cake te hebben en op te eten. Wat het ons in staat stelt om te doen is om sommige verantwoording, om op een of andere manier de digitale activiteiten van mensen te kunnen traceren naar een verantwoordelijk entiteit. Wat we ook in het artikel presenteren zijn een aantal verschillende, soort van, belangrijke uitdagingen die in acht moeten worden genomen bij het bouwen van een systeem als dit. Maar we presenteren al die uitdagingen in de toekomst als potentieel zeer de moeite waard om mee om te gaan vanwege de potentie van dit, soort van, idee om ons in staat te stellen de toewijding van het internet aan privacy, vrije meningsuiting en anonimiteit te behouden en tegelijkertijd verantwoording af te leggen voor schade.

TINTELEN: Zoë noemde een aantal van deze afwegingen. Laten we het nog even hebben over de impact in de echte wereld, Shrey. Wie profiteert het meest van dit werk?

JAIN: Ik denk dat er veel verschillende mensen zijn die er baat bij hebben. Een daarvan is iedereen die online communiceert of iets doet, omdat ze meer vertrouwen kunnen hebben in hun interacties. En het bouwt eigenlijk voort op het artikel dat Zoë en ik vorig jaar schreven over contextueel vertrouwen en generatieve AI, waarin staat dat we vertrouwen willen hebben in onze interacties, en om dat te doen, is een onderdeel het kunnen identificeren WHO je spreekt met en doet het ook op een manier die de privacy beschermt. En ik denk dat een andere persoon die hiervan profiteert, beleidsmakers zijn. Ik denk dat vandaag de dag, als we nadenken over de taal en technologieën die worden gepromoot, dit een aanvulling is op veel van het bestaande werk dat wordt gedaan op het gebied van herkomst en watermerken. En ik denk dat het vermogen van die individuen om succesvol te zijn in hun missie, namelijk het creëren van een veiligere online ruimte, dit werk kan helpen deze individuen te begeleiden om effectiever te zijn in hun missie, omdat het een technologie benadrukt die momenteel niet wordt besproken in vergelijking met deze andere oplossingen en deze aanvult om online communicatie te beschermen.

GEWELDIG: Weet je, sociale media worden overspoeld met bots, en soms is het probleem met bots dat ze nep-inhoud posten, maar andere keren is het probleem met bots dat er gewoon te veel van zijn en dat ze elkaar allemaal retweeten en het is heel moeilijk om te zien wat echt is. En dus wat een personhood credential kan doen is zeggen, weet je, misschien mag elke persoon maar vijf accounts hebben op een bepaald social media platform.

TINTELEN: Dus, Shrey, wat staat er als volgende op je onderzoeksagenda? Zijn er nog vragen die blijven hangen – ik weet dat die er zijn – en belangrijke uitdagingen hier, en zo ja, hoe hoop je die te beantwoorden?

JAIN: We denken dat we een sterke groep van industriële, academische en, weet je, civiele sector-samenwerkers hebben verzameld, maar we zijn slechts een kleine subgroep van de mensen die met deze systemen gaan interacteren. En dus is het eerste gebied van de volgende stappen om feedback te verzamelen over het voorstel van een oplossing die we hebben gehad en hoe we dat kunnen verbeteren: zijn er compromissen die we missen? Zijn er technische componenten waar we niet zo diep over hebben nagedacht? En ik denk dat er veel smalle open vragen uit voortkomen. Bijvoorbeeld, hoe verhouden personhood credentials zich tot bestaande wetten met betrekking tot identiteitsdiefstal of -beschermingswetten? In gebieden waar dienstverleners geen overheids-ID’s kunnen eisen, hoe is dat van toepassing op personhood credentials die afhankelijk zijn van overheids-ID’s? Ik denk dat er veel van deze open vragen zijn die we in het artikel behandelen en die volgens mij meer experimenten en overdenking nodig hebben, maar ook veel empirisch werk dat moet worden gedaan. Hoe reageren mensen op personhood credentials en vergroot het daadwerkelijk het vertrouwen in hun interacties online? Ik denk dat er nog veel open vragen zijn over de daadwerkelijke effectiviteit van deze tools. En dus denk ik dat er ook daar nog veel werk te doen is.

GEWELDIG: Ik heb veel nagedacht over de begindagen van het internet. Ik was er toen niet bij, maar ik weet dat elke kleine beslissing die in een zeer korte periode werd genomen, ongelooflijk blijvende gevolgen had waar we nu nog steeds mee te maken hebben. Er is een enorme padafhankelijkheid in elk soort technologie. En ik heb het gevoel dat we ons nu in die periode bevinden, het kleine venster waarin generatieve AI dit nieuwe ding is om mee te worstelen, en het ontwortelt veel van onze aannames over hoe onze systemen kunnen werken of zouden moeten werken. En ik probeer na te denken over hoe we die instellingen moeten opzetten, deze kleine beslissingen moeten nemen rechts zodat we in de toekomst over een digitale architectuur beschikken die daadwerkelijk de doelen dient die wij willen bereiken.

(MUZIEK)

TINTELEN: Heel attent. Daarmee, Shrey Jain, Zoë Hitzig, heel erg bedankt dat jullie er vandaag bij zijn.

GEWELDIG: Hartelijk dank, Amber.

TINTELEN: En ook dank aan onze luisteraars. Als u meer wilt weten over Shrey en Zoë’s werk over personhood credentials en geavanceerde AI, vindt u een link naar dit artikel op aka.ms/abstracts, of u kunt het lezen op arXiv. Nogmaals bedankt voor het luisteren. Ik ben Amber Tingle en we hopen dat u de volgende keer bij ons bent op Samenvattingen.

(MUZIEK VERDWIJNT)