Find Ud Af Dit Antal Engel
Design af Lauren Park
'Bliver dette et pik-billede?' er et spørgsmål, som mange mennesker, især kvinder, stiller med en følelse af frygt, når de ser en DM fra en fremmed. Nå, der er endelig en app til den angst, i det mindste til dine Twitter DM'er.
Inspirationen til SafeDM , et indholdsblokerende filter, der i øjeblikket er under udvikling, udløste, da Kelsey Bressler befandt sig i at håndtere uønsket chikane, af den digitale seksuelle art.
'[Det var] en tilfældig person og ønskede at få min opmærksomhed,' siger Bressler. ”De spurgte, hvorfor taler du aldrig med mig og sendte mig ... det. Jeg tror, jeg ved, hvorfor jeg ikke taler med den person. ”
Bresslers erfaring med hævnporno har også ansporet hende til at kæmpe tilbage mod denne chikane. Med et team på tre andre arbejder hun på et indholdsfilter AI og lærer det at genkende pikbilleder, informere brugeren om dem og også slette dem fra deres indbakke.
Forskning viser det 53 procent af kvinderne 18 til 29 og groft 78 procent af årtusinder er besked med uopfordrede eksplicit billeder, hvoraf mange er pikbilleder.
”Hvis en kvinde ikke har oplevet cyberblink, kender hun nogen der har gjort det. Det er noget så almindeligt, at vi virkelig ikke har haft en anden løsning end at bede kvinder om at lukke deres DM'er, hvilket efter min mening ikke er det rigtige svar, ”siger Bressler. 'Dette er noget, som de fleste kvinder er meget begejstrede for.'
Hvordan lærer AI, hvordan pikbilleder ser ud?
Tak, tak til Bresslers virale tweet i september , mange anmodede fotos sendes til kontoen VisYoDiq . (Nogle fotos sendes desværre også fejlagtigt og ikke fejlagtigt til Bresslers personlige Twitter-konto.) Dicks dækket af glitter. Pikke med sokker på. Peniser i bur - alle disse fotos er blevet testet for at hjælpe AI med at genkende, hvad der gør et pikbillede.
Tweet
Hvis det er en penis, sletter SafeDM automatisk billedet og svarer afsenderen med at sige, hvad der blev sendt, var en upassende besked og lade brugeren vide, hvad deres strejke tæller.
”Vi skælder dem ikke ud i meddelelsen. Vi siger, at det var upassende indhold. Vi arbejder på alle ordene såvel som vores antal strejker, [som efter] en vis mængde strejker automatisk bliver blokeret for at kontakte dig igen. ”
Nogle potentielle brugere har udtalt, at de gerne vil blokere lovovertrædere manuelt i stedet for, at SafeDM automatisk gør det for dem. Bressler og hendes team lytter til feedback fra de interesserede i filteret.
”Det er, hvad brugerne vil have. Vi prøver at gøre tingene så fleksible som muligt, så folk kan ændre disse indstillinger, ”siger Bressler. Når det frigives, vil filteret og dets indstillinger være fuldt funktionsdygtige, men holdet er villig til at vedtage brugeranmodede muligheder efter udgivelsesdatoen til slutbrugerne, mens de bevarer sin kernefunktionalitet.
Dette indholdsfilter er (foreløbigt) indstillet til at blive frigivet den 14. februar
Takket være mængden af data, der leveres af ivrige folk, har der været ret meget at teste for at hjælpe indholdsfiltret med at bestemme, hvad der er en penis, og hvad der ikke bare er et falskt stykke produkt. Dette har også hjulpet teamet med at udvikle filteret ret hurtigt, herunder om falske positive skal eller ikke skal fanges af filteret.
”Vi er over 99 procent nøjagtige, skønt vi har falske positive,” siger Bressler. ”Vi er nødt til at komme til et punkt, hvor vi skal beslutte, om folk vil se penis som genstande. Er det også chikane? Selvom [billedet] ikke er en penis, skal filteret alligevel filtrere det ud? Det går virkelig tilbage til, hvad brugeren ønsker. ”
SafeDms twittertest har vist enorme fremskridt og nøjagtighed, siden det blev annonceret i september med mindre og mindre at komme igennem sit indholdsfilter AI. Og folk er naturligvis hypede over den kommende frigivelse. I et overraskende twist nævnte Bressler, at nogle af hendes yndlingsfolk til at få beskeder om filteret er fra dads, især dads med døtre.
”De er glade for at jeg gør det, men trist at det er nødvendigt til at begynde med. [Jeg har haft et par] dads [som] er glade for, at jeg arbejder på det, fordi de har døtre, og de vil ikke have, at de skal klare dette. ”
Enhver med en Twitter-konto vil kunne bruge filteret til indholdsblokering
'Du har ikke brug for en bestemt telefonmodel,' forklarer Bressler. ”Enhver Twitter-konto kan bruge dette. Det fungerer det samme på appen og på nettet. ”
Det ultimative mål for projektet er at give kontrollen tilbage til samfundet, så de ikke behøver at leve i frygt for, hvad der ligger i deres Twitter-indbakker.
Jenna Dewan Tatum Wiki
'Det er sjovt, hvordan du kan tage noget ud af en sut situation og få lidt kontrol over situationen og gøre verden til et bedre sted.'
