Tapaa Diem, AI-käyttöinen 'sosiaalinen hakukone', jonka tarkoituksena oli tuntea ystäväsi ryhmäkeskustelu

Oletetaan esimerkiksi, että haluat tietää kuinka paljon munien jäädyttäminen maksaa. Kirjoitat tämän kysymyksen DIEM: ään, ja AI-komponentti hyödyntäisi laajempaa Internet-tietokantaa ja diem-käyttäjän käyttäjän vakituista sisältöä sekä yhden lauseen vastauksen että pidemmän luomisen. Ja saat molemmat yhdessä kaikkien aiheen yhteisön luomien viestien lisäksi, jos olit kiinnostunut vierittämään niitä.

Tällä tavoin Diem yhdistää AI: n helppouden todellisten naisten ja muiden kuin binaaristen ihmisten tiedon mukauttamiseen-erittäin sellaiset anekdoottiset tiedot ja elämäkokemukset ja juoru Usein hakukoneiden hoitama puolueellisuuden vuoksi (enemmän alla). Bates sanoo, että yhdistelmä tekee diemista sekä hyödyllisiä että suoraan sovellettavia näiden yhteisöjen ihmisiin. ”Tapa, jolla olemme aina ajatelleet rakentamista, on:" Kuinka voimme luoda tilan, josta voit etsiä yhteisöjesi kollektiivisia oivalluksia?'" hän sanoo. ”Jos pystyt rakentamaan kollektiivisesti yhteisösi kanssa, se muodostaa äänen, tiedon ja kokemuksen, ja se lopulta tuntuu erilaiselta."

Sukupuolten puolueellisuus hakukoneissa ja AI -alustoissa

Koska sukupuolten puolueellisuus on yleistä koko yhteiskunnassa, se esiintyy myös Internet-hakumoottorin algoritmeissa ja polttaa sukupuolitietokuilua. Se on sama aukko, jonka Bates kohtasi yrittäessään löytää sovellettavia, relatable-tietoja aamu-jälkeisestä pilleristä vuonna 2018.

Todisteina harkitse vuoden 2022 tutkimuksen tuloksia, joille tutkijat pyrkivät määrittämään, hakuvat maissa, joissa sukupuoleen liittyvät pistemäärät (arvioidaan globaalilla sukupuolieroindeksillä), osoittaisivat myös sukupuolten puolueellisuuden. Tätä varten he etsivät sanaa "henkilö" 37 maan paikallisella kielellä ensimmäisessä tutkimuksessaan ja 52 maata toisessa. Kaikissa tapauksissa Google -hakutulokset maissa, joissa yhteiskunnallinen sukupuolten epätasa -arvo on suurempi, paljastivat myös suuremman sukupuolierot (tarkoittaen, että korkeampi prosenttiosuus ensimmäisistä 100 kuvatuloksesta osoitti miehen verrattuna naiseen).

Uusien AI -bottien on myös havaittu jatkavan sukupuolten puolueellisuutta. Esimerkiksi, Bloomberg kertoi, että laskennallinen tutkija sai chatgptin sylkemään koodia, jonka mukaan vain aasialaiset tai valkoiset miehet tekisivät hyviä tutkijoita; Yhtiön toimitusjohtaja vastasi tutkijalle Twitterissä, rohkaisemalla käyttäjiä "peukaloimaan" tällaisia ​​vastauksia auttaakseen ohjelmaa oppimaan olemaan levittämättä puolueellisuutta.

Kun kysyin chatgPT: tä samanlaista kysymystä, se sanoi, että ei ole tarkoituksenmukaista käyttää jonkun sukupuolta tai kilpailua selvittääkseen, ovatko he menestyneet ammatissa. Mutta vaikka näyttää siltä, ​​että AI oppii tällä hetkellä vähemmän puolueellista, se luottaa edelleen objektiiviseen, myötätuntoisia käyttäjiä kouluttamaan sitä niin niin. (Diemin AI on suurelta osin koulutettu luotuihin tietoihin ja Naiset ja muut kuin binaariset ihmiset, joten heihin ei sovelleta samaa naisen vastaista puolueellisuutta hyppyä.-A

"AI on vain yhtä hyvä kuin sen kouluttama tiedot, ja koska kaikilla ihmisillä on puolueellisuutta ja ennakkoluuloja, kun heidän tietoja käytetään, puolueellisuudesta ja ennakkoluuloista tulee osa AI: ta."-Nina Vasan, MD, psykiatri

Nämä havainnot kuvaavat, kuinka ylläpitämämme puolueellisuudet siirtyvät luonnollisesti luomiin tuotteisiin ja tietojoukkoihin, joihin osallistumme. "AI on vain yhtä hyvä kuin sen kouluttamansa tiedot, ja koska kaikilla ihmisillä on puolueellisuutta ja ennakkoluuloja, kun heidän tietonsa käytetään, puolueellisuudesta ja ennakkoluuloista tulee osa AI: ta", sanoo psykiatri Nina Vasan, MD, lääkärin pääjohtaja digitaaliterapiaalustasta Real ja Brainstormin perustaja ja toimitusjohtaja: Stanford Lab for mielenterveysinnovaatio.

Kuinka DIEM: n tavoitteena on tulla hauska, informatiivinen hakukone, erityisesti naisille ja muille kuin binaarisille ihmisille

Diemin aikomuksen käyttäjän väestöryhmän perusteella Bates sanoo ajattelevansa alustalla jaettuja tietoja ja sen tuottamana Chatbotin vastauksia, jotka ihmisillä on kysymyksiin, kun he ovat elämänsä "ystävävaiheessa"; Ihmiset absorboivat paljon ystäviä, kun he ovat kahdenkymmenenluvun puolivälissä ja kolmenkymmenenluvun alkupuolella, hän sanoo. Diemin ajatuksena on, että saat näkökulmia useilta ikäsi ja sukupuoli -identiteettisi ihmisiltä, ​​joiden kanssa et ehkä ole muuten vuorovaikutuksessa, ja että kollektiivinen ymmärrys hyötyy kaikista alustalla.

Koska Diemin AI on syötetty tietoon suoraan tämän väestöryhmän ihmisiltä, ​​se on edustava alusta suunnittelusta. Tuhannet naiset ja muut kuin binaariset ihmiset ovat toistaiseksi esittäneet kysymyksiä ja jakaneet vastauksia Diemiin heille merkityksellisistä aiheista, etenkin henkilökohtaisen terveyden, rahan ja suhteiden luokissa-missä Diem's ​​AI on parhaiten koulutettu.

Vaikka se vielä oppii, se vetää laajemmasta omistusoikeudellisesta aineistosta (samanlainen kuin se, joka valtaa chatgpt) löytääkseen tietoja kysymyksistä, joista yhteisön ihmiset eivät ole vielä keskustelleet. Erottelukohta on kuitenkin se, että se pyörii edelleen "tiivistetyn Diem-y -vastauksen" näihin kysymyksiin, Bates sanoo, että todelliset Diem Convosi.

Koska Diem on edelleen AI: n luottamus sekä käyttäjän luomiseen sisältöön että laajempaan tietojoukkoon, se ei todellakaan ole immuuni Muiden hakukoneiden ja AI -chatbotien ongelmiin, mukaan lukien väärä, harhaanjohtava ja kyllä, jopa puolueellinen sisältö. Sovelluksessa ja työpöytäversiossa on painiketta, ja alusta on julkaissut joukon yhteisöohjeita-jotka edistävät esimerkiksi "ystävällisyyttä ja uteliaisuutta" ja "empattista sitoutumista"-varmistamaan sen käyttäjien turvallisuus ja tiedon laatu.

Diem käynnistyy aikana, jolloin sekä Yhdysvaltojen että Euroopan unionin hallituksen virkamiehet tutkivat tapoja säännellä AI. U: ssa.S. Erityisesti presidentti Joe Bidenin toimisto julkaisi lokakuussa AI.S. Senaattorin Chuck Schumerin johtamat senaattorit pyrkivät lainsäädännön laatimiseksi suojakaiteiden perustamiseksi teollisuuden ympärille, ja neljä valtion virastoa julkaisivat viime kuussa yhteisen lausunnon, jossa hahmotellaan valtuudet, jotka heillä on aloittaminen aloittamaan perusteellisemmin, etenkin syrjinnästä, joka johtuu puolueellisuudesta, joka johtuu puolueellisuudesta.

Mutta Batesia ei elletä syöttämällä tähän maisemaan. Hän ennustaa, että Internetin tulevaisuudessa tapahtuu "mielenkiintoinen muutos", jossa ihmiset etsivät tietoa, joka palvelee erityisesti sitä, missä he ovat elämässään. Sen sijaan, että kysyisit esimerkiksi Googlea treffit -neuvoja, hän toivoo,.

"Tällä hetkellä olemme olemassa monopoleissa, ja se vaikuttaa siihen, miten käytämme Internetiä ja mitä odotamme alustoilta", Bates sanoo. Loppujen lopuksi nämä monopolit heijastavat usein puolueellisuutta ihmisten hyväksi. "Uskon, että Internetin tulevaisuus aikoo tarjota enemmän niche -kokemuksia", hän sanoo. Ja kuka sanoo, että markkinarako on välttämättä pieni? Kuten Bates huomauttaa, naisten tunnistavat ihmiset muodostavat melkein tasavertaisen osuuden planeetan ihmisistä. Ja nyt on jättiläinen ryhmäkeskustelu, joka odottaa heidän panoksiaan.

Wellness Intel, jota tarvitset ilman BS: tä, jota et kirjaudu tänään, jotta saat viimeisimmät (ja suurin) hyvinvointiuutiset ja asiantuntijoiden hyväksymät vinkit suoraan postilaatikkoosi.