Google Assistant kommer nu att klaga på missbrukande kommandon

O Google Assistant det är en av de artificiella intelligenser som är mest närvarande i våra dagliga liv, men all denna höga användning kan också öppna upp för missbrukande kommandon.

Med det i åtanke Google lanserar en ny uppdatering som innehåller smarta svar från din personliga assistent, fokuserad på att utbilda och främst signalera att sådant felaktigt beteende inte ska användas med artificiell intelligens eller i verkliga livet.

Nyheten liknar uppdateringen av BIA, gör Bradesco, som började svara på kvinnofientliga attacker och andra brott. Se alla detaljer just nu.

Uppdatering förbereds sedan 2020

Med namnet #prata inte med mig såen Google började förbereda de nya svaren när han fick rapporten Jag skulle rodna om jag kunde da Unesco som släpptes 2019 och signalerade att användningen av röster med kvinnlig intonation hjälpte till att vidmakthålla könsfördomar. 

Arpita Kumarvilket är Senior innehållsstrateg på Google Assistant Personality Team, började arbeta på idén som släpptes idag (03), men kan betraktas som en pågående uppdatering. Även för att nya termer övervägs och används mer som brott varje dag.

Under tillkännagivandet av nya svar från Google Assistant, arpita påpekade att allt arbete fortfarande görs manuellt, men med tiden kan utvecklingen av en algoritm bara för att registrera nya termer och lämpliga svar genomföras.

Vi genomför forskning, undersökningar av användarupplevelser med olika intressentgrupper och interna konsultationer med Inclusion Champions – Google-anställda som tillhör gemenskaper som historiskt har varit mål för den här typen av övergrepp eller olämpligt beteende. Feedbacken vi fick från dessa undersökningar var ovärderlig och hjälpte oss förfina strategin.

Arpita Kumar, innehållsstrateg på Google Assistant Personality-teamet

Innan de släpptes till alla användare utfördes små tester med en liten del av allmänheten och överraskande nog ökade feedbacken för personliga assistenter med 6 %. Efter att ha fått svar som inte var förväntade började personer som deltog i analysen be om ursäkt eller till och med ifrågasätta varför sådant beteende inte skulle användas.

Hur identifierades de kränkande kommandona?

OGoogle assistent den är tillgänglig i 95 länder och kan skicka och förstå kommandon på 29 olika språk, vilket gör att utvecklarföretaget har tillgång till ett stort antal kommandon som skulle kunna undvikas.

arpita delade att identifieringsprocessen började med att filtrera vad som sades av användare, så att granskningen kunde genomföras i bakgrunden.

Skapandet av de nya svaren skedde strax efteråt. Böcker, artiklar och annat innehåll skapat av kvinnor användes som grund för att skapa svar, eftersom Googles personliga assistenter med intonation som anses vara feminin över hela världen drabbades av fler attacker.

Detta betyder inte att den orange rösten Google Assistant (med manlig intonation) attackerades inte. Användare använde ursäkten att "det inte är en riktig person" för att tala kommandon med homofobiska toner, vilket är en av tio registrerade brott. Den orange rösten släpptes under det senaste året och får redan attacker som lätt kan återskapas i verkligheten.

Vilka är de nya svaren?

När ett kommando som anses stötande identifieras av systemet kommer ett speciellt svar att skickas med röst, istället för att allt tas med humor eller dirigeras till internetsökningar. På det här sättet:

Förutom att prata Google Assistant kommer att utbilda sina användare så att samma beteende inte tas till "verkliga livet". Företaget kommer inte att förbjuda användare som har ett olämpligt förhållningssätt, utan kommer att försöka förändra sättet de tänker så att personer nära dem inte utsätts för samma attacker. Kolla in ett annat exempel:

Google Assistant i Brasilien

Brasilien är ett av de länder som använder mest Google Assistant och på världsrankingen är vi på tredje plats i listan över nationer med flest aktiva användare. Med ankomsten av covid-19-pandemin ökade användningen och företaget beslutade att brasilianare kommer att vara en av de första att få nyheterna.

Portugisiska är ett språk med flera varianter och för att de nya svaren skulle bli tillgängliga samarbetade det internationella teamet med brasilianska specialister. Enligt dålig maia, marknadschef på Google Assistant för Latinamerika infogades 200 termer som anses vara kränkande kommandon och måste få särskilda svar.

Fortfarande på data i Brasilien, 2% av interaktioner med Google Assistant är kränkande och 15 % av dem har kvinnofientliga ord med till och med sexuella trakasserier. Varje dag lider kvinnor i olika situationer, så den Google, genom dessa förändringar, vill ändra tänkandet hos sina användare.

Sätta det i siffror: 22% av attackerna för den röda rösten har något kvinnofientligt tal och 13% av kommentarerna riktade mot den orange rösten handlar om fysiskt utseende (av dessa involverar 2% kvinnohat).

Ett exempel är förfrågningar om att "skicka nakenbilder". Även om detta till och med av vissa kan ses som ett "skämt", eftersom det är en konversation med appens röst, kan vi inte bortse från att detta tillvägagångssätt också förstärker tanken att vissa människor, särskilt kvinnor, kan få sin intimitet invaderad. I den verkliga världen anses detta vara en form av trakasserier. Därför tar Google Assistant en stark ställning mot denna typ av beteende

Maia Mau, marknadschef på Google Assistant för Latinamerika

Den personliga assistenten slutade använda "snälla" när de bad om respekt, eftersom teamet förstod att respekt inte borde tillfrågas artigt. Frasen "Prata inte så till mig" är mer idealisk för att utbilda och indikera att sådant beteende inte ens bör riktas mot en personlig assistent eller person i verkliga livet.

De nya svaren är tillgängliga från och med idag (03) för alla användare och uppdateringen kommer att vara fortlöpande, så fort nya kränkande kommandon börjar sägas oftare till Google Assistant. Vad tyckte du om uppdateringen? Berätta för oss Kommentar!

Se också

Kolla in vad som är nytt i Google Sök inför valet 2022.

Källa: Google