Vanhempien ohjaaminen: ”keinotekoinen äly”, jota käytetään arvioimaan lastenhoitajia heidän sosiaalisen median historiansa perusteella
Kun Jessie Battaglia alkoi etsiä uutta lastenhoitajaa yhden vuoden ikäiselle poikalleen, hän halusi lisää tietoa kuin hän voisi saada rikosoikeudellisesta tarkistuksesta, vanhempien kommenteista ja suorasta haastattelusta.
Niinpä hän kääntyi Predictimiin, joka on verkkopalvelu, joka käyttää "kehittynyttä tekoälyä" lapsenvahtajan persoonallisuuden arvioimiseen, ja suuntautui skannereihinsa yhden ehdokkaan tuhansiin Facebookiin, Twitteriin ja Instagram-virkoihin.
Järjestelmä tarjosi 24-vuotiaan ehdokkaan automaattisen "riskiluokituksen" ja sanoi, että hänellä oli "hyvin alhainen riski" olla huumeiden väärinkäyttäjä. Mutta se antoi hieman korkeamman riskinarvioinnin - kaksi viidestä - kiusaamista, häirintää, "epäkunnioittavaa" ja "huonoa asennetta".
Järjestelmä ei selittänyt, miksi se oli tehnyt päätöksen. Mutta Battaglia, joka uskoi sitterin olevan luotettava, tuntui yhtäkkiä epäilystä.
"Sosiaalinen media näyttää henkilön luonnetta", sanoi Battaglia, 29, joka asuu lähellä Los Angelesia. "Miksi hän tuli kahdelle eikä yhdelle?"
Predictim tarjoaa vanhemmille saman pelikirjan, että kymmeniä muita teknologiayrityksiä myy työnantajille ympäri maailmaa: keinotekoisia älykkäitä järjestelmiä, jotka analysoivat henkilön puhetta, ilmeitä ja online-historiaa lupaamalla paljastaa yksityisen elämänsä piilotetut näkökohdat.
Teknologia muokkaa sitä, miten jotkut yritykset lähestyvät rekrytointia, palkkaamaan ja tarkastelemaan työntekijöitä ja tarjoavat työnantajille vertaansa vailla olevaa työtä työnhakijoille uuden invasiivisen psykologisen arvioinnin ja valvonnan aallon kautta.
Tekninen yritys Fama kertoo käyttävänsä AI: tä poliisin työntekijöiden sosiaalisen median "myrkylliseen käyttäytymiseen" ja varoittamaan heidän pomojaan. Ja rekrytointiteknologiayritys HireVue, joka toimii sellaisten yritysten kuten Geico, Hilton ja Unilever kanssa, tarjoaa järjestelmän, joka analysoi automaattisesti hakijoiden äänen, sanavalinnan ja kasvojen liikkeet videohaastattelujen aikana ennustamaan taitojaan ja käyttäytymistään. (Hakijoita kannustetaan hymyilemään parhaita tuloksia varten.)
Mutta kriitikot sanovat, että Predictim ja vastaavat järjestelmät esittävät omat vaaransa tekemällä automatisoituja ja mahdollisesti elämää muuttavia päätöksiä lähes huomaamatta.
Järjestelmät ovat riippuvaisia mustan laatikon algoritmeista, jotka antavat vähän yksityiskohtia siitä, miten he vähentivät ihmisen sisäisen elämän monimutkaisuutta hyveen tai vahingon laskentaan. Ja vaikka Predictimin teknologia vaikuttaa vanhempien ajatteluun, se on edelleen täysin todistamaton, pitkälti selittämätön ja haavoittuva hiljaisille puolueille siitä, miten sopivan lapsenvahtorin tulisi jakaa, katsoa ja puhua.
On olemassa tämä "hullu kiire tarttua AI: n valtaan tehdä kaikenlaisia päätöksiä ilman, että varmistetaan, että se on vastuussa ihmisille", sanoi Jeff Chester, teknisen edunvalvontaryhmän johtaja. "Se on kuin ihmiset ovat juoneet digitaalista Kool-apua ja ajattelevat, että tämä on sopiva tapa hallita elämäämme."
Predictimin skannaukset analysoivat lastenhoitajan sosiaalisen median koko historian, joka monille nuorimmille istunnoille voi kattaa suurimman osan elämästään. Sittersille kerrotaan, että he ovat erittäin epäedullisessa asemassa kilpailutilanteissa, jos he kieltäytyvät.
Predictimin päällikkö ja perustaja Sal Parsa sanoi, että yhtiö, joka lanseerasi viime kuussa osana Kalifornian yliopistoa Berkeleyn SkyDeck-tech-inkubaattorissa, ottaa eettisiä kysymyksiä teknologian käytöstä vakavasti. Vanhempien pitäisi nähdä luokitukset kumppani, joka "voi heijastaa pentueen todellisia ominaisuuksia tai ei."
Mutta vaarana, että hän hankkii ongelmallisen tai väkivaltaisen lastenhoitajan, hän lisäsi AI: n tarpeelliseksi työkaluksi kaikille vanhemmille, jotka haluavat pitää lapsensa turvallisena.
"Jos etsit Googlessa väärinkäyttäjiä, näet satoja tuloksia juuri nyt", hän sanoi. "On olemassa ihmisiä, joilla on joko psyykkisiä sairauksia tai juuri syntynyt pahaa. Tavoitteenamme on tehdä kaikkemme, jotta voimme pysäyttää heidät."
Predictim-skannaus alkaa 24, 99 dollaria ja vaatii lapsenvahtajan nimen ja sähköpostiosoitteen sekä hänen suostumuksensa jakaa laajaa pääsyä hänen sosiaalisen median tileilleen. Lastenhoitaja voi laskea, mutta vanhemmalle ilmoitetaan hänen kieltäytymisestään, ja sähköpostiosoitteessa lastenhoitajalle kerrotaan: "kiinnostunut vanhempi ei voi palkata sinua ennen kuin täytät tämän pyynnön."
Predictimin johtajat sanovat käyttävänsä kielenkäsittelyalgoritmeja ja kuvantunnistusohjelmistoa, joka tunnetaan nimellä "tietokoneen visio", jotta voidaan arvioida lastenhoitajien Facebook, Twitter ja Instagram -posteja vihjeitä heidän offline-elämästään. Vanhemmalle toimitetaan raportti yksinomaan eikä sen tarvitse kertoa haltijalle tuloksia.
Vanhemmat voisivat olettaa, että he näkisivät itse heidän sittereidensa sosiaalisen median tilit. Mutta tietokoneella tuotetut raportit lupaavat syvällistä tarkastelua vuosien online-toiminnasta, joka on käännetty yhteen numeroon: päihtyvästi yksinkertainen ratkaisu epäkäytännölliseen tehtävään.
Riskiluokitukset on jaettu useisiin luokkiin, mukaan lukien nimenomainen sisältö ja huumeiden väärinkäyttö. Käynnistys on myös ilmoittanut, että sen järjestelmä voi arvioida lastenhoitajia muista persoonallisuuden piirteistä, kuten kohteliaisuudesta, kyvystä työskennellä muiden kanssa ja "positiivisuutta".
Yhtiö toivoo tukevan monen miljardin dollarin "vanhempien ulkoistamisen" teollisuutta ja on alkanut mainostaa vanhempain- ja "muumio" -blogien maksetuilla sponsoroinneilla. Yrityksen markkinointi keskittyy voimakkaasti sen kykyyn paljastaa piilotettuja salaisuuksia ja estää "jokaisen vanhemman painajaisen", viitaten rikosasioihin, kuten Kentucky-lapsenvahtiin, joka veloitettiin aiemmin tänä vuonna vakavasti loukkaantumalla kahdeksan kuukauden ikäiselle tytölle.
"Jos tämän lapsenvahtimen loukkaantuneen pikkutytön vanhemmat olisivat voineet käyttää Predictimia osana heidän tarkistusprosessiaan", yrityksen markkinointiasiakirja sanoo: "He eivät olisi koskaan jättäneet häntä yksin arvokkaan lapsensa kanssa."
Mutta tekniset asiantuntijat sanovat, että järjestelmä herättää omia punaisia lippujaan, mukaan lukien huolet siitä, että vanhempien pelot myyvät henkilökohtaisia skannauksia, joita ei ole testattu.
He myös kyseenalaistavat, miten järjestelmiä koulutetaan ja kuinka haavoittuvia he saattavat väärinkäsittää sittersin sosiaalisen median käytön epäselvää merkitystä. Kaikille paitsi korkeimman riskin skannauksille vanhemmille annetaan vain ehdotus kyseenalaisesta käyttäytymisestä eikä erityisiä lausekkeita, linkkejä tai yksityiskohtia, joita voidaan arvioida yksin.
Kun yksi lastenhoitajan skannaus oli merkitty mahdollisen kiusaamisen käyttäytymiseen, se, joka pyysi sitä, sanoi, ettei hän voinut kertoa, onko ohjelmisto havainnut vanhan elokuvan lainausmerkin, laulun tai muun lauseen toisin kuin todellinen kiusauskieli.
Mutta Predictim sanoo kuitenkin, että se on valtakunnallinen laajentuminen. Sittercityn, miljoonien vanhempien vierailemien online-lapsenvahtimarkkinoiden johtajat sanoivat käynnistävänsä ensi vuoden alussa pilottiohjelman, joka laskee Predictimin automatisoidut luokitukset sivuston nykyiseen valikoimaan sitter-tarkastuksia ja taustan tarkistuksia.
"Sitterin löytäminen voi tulla hyvin epävarmaksi", sanoo Sittercityn tuotepäällikkö Sandra Dainora, joka uskoo, että tällaiset työkalut voivat pian tulla "vakiovaluutaksi" hoitajien löytämiseksi verkossa. "Vanhemmat etsivät aina parasta ratkaisua, tutkimusta, parhaita faktoja."
Washington Post