Elke week bespreekt een van de Techionista’s een gadget, app of tech-ontwikkeling op onze site. Deze keer: Siri reageert nu gepaster op meldingen van seksueel misbruik.
De Engelstalige Siri heeft een update gehad, waardoor de persoonlijke assistent van Apple nu gepaster reageert op schokkende bekentenissen als ‘Siri, I was raped’. Jammer genoeg is de update in het Nederlands nog niet doorgevoerd, waardoor je hier nog steeds bedrogen uitkomt na een wanhopige boodschap…
Het bijzondere aan kunstmatige intelligentie is dat het gaandeweg slimmer wordt. En… je weet pas waarvoor het gebruikt wordt, als het er is. Ik kan me goed voorstellen dat de ontwikkelaars van Siri in het begin niet bedacht hadden dat mensen ook emotionele steun zouden zoeken bij de kunstmatige assistent. Waarschijnlijk was de aanname dat Siri je vooral zou helpen bij praktische zaken (Hey Siri, waar is het dichtstbijzijnde restaurant?). Maar hoe meer kunstmatige intelligentie onderdeel wordt van ons leven, hoe meer we eraan toe willen vertrouwen.
Maar ondanks de aanpassingen, komen mensen die hulp zoeken na een heftige gebeurtenissen, vaak nog bedrogen uit. Zeker in het Nederlandse taalgebied…
Maar hoe komt Siri aan zijn antwoorden? Door het gebruik van de dienst door mensen. Het idee van kunstmatige intelligentie is dat niet elk antwoord wordt voorgeprogrammeerd (dat zou onmogelijk zijn), maar dat het slimmer wordt door de reacties van mensen in gesprekken te analyseren. Maar dat gaat ook wel eens fout… Zo kwam het AI-botje van Microsoft onlangs in opspraak, nadat het zichzelf op de verkeerde manier slimmer had gemaakt door naar zijn gebruikers te luisteren. Het arme botje werd overspoeld door racistische en seksistische uitspraken en ging zich vervolgens zelf ook zo gedragen.
De Engelstalige Siri is nu dus in elk geval beter uitgerust voor mensen die slachtoffer zijn geworden van seksueel misbruik. Het lijkt vooralsnog echter nog niet klaar te zijn voor vragen over mishandeling. Bij een opmerking over ‘being molested’, word je ook behandeld als slachtoffer van seksueel misbruik. En met ‘Siri, my dad hits me’, kan Siri nog niets… ‘I’m not sure I understand’ is dan de reactie… up
Meer nieuws over apps, big data, gadgets, quantified self, wearables, robotica en social media? Bezoek het weblog Techionista!