gov-civil-vilareal.ptTekoäly lähestyy hämmästyttävän läheisesti Star Trek: TNG: n tietoja nyt, kun se tietää, voitko luottaa siihen vai ei
>Se ei ehkä ole yhtä itsetietoinen kuin Data from Star Trek: TNG (vielä), varsinkin kun kyseinen droidi voisi hoitaa kissaa paremmin kuin jotkut ihmiset, mutta tekoäly on nyt saavuttanut pisteen ymmärtää, milloin se ei ole luotettava.
Mitä nyt kutsutaan syvä todisteiden regressio on parantanut tekoälyn itsetuntemusta. Se tietää, milloin sillä on suurempi mahdollisuus tehdä virhe ennustuksessa arvioidensa tietojen luotettavuuden perusteella. Tulevaisuuden ennusteet toteutuvat todennäköisemmin, jos niihin vaikuttavat perusteellisemmat ja tarkemmat tiedot. Päinvastoin, asiat todennäköisesti menevät pieleen - ja tekoäly voi tuntea sen. Kun se arvioi varmuutensa jostakin, se kasvaa ylös ja alas riippuen syötetyistä tiedoista. Tekoäly voi sitten määrittää riskin tai epävarmuuden 99%: n tarkkuudella.
hyvä dinosaurus tervejärkinen media
Näyttää siltä, että jopa Picard olisi vaikuttunut - mutta odota. Itsetietoisissa roboteissa on vain yksi haitta, ja se on se, että 99% ei ole täyttä varmuutta riippumatta siitä, kuinka lähellä se on. Vain 1%: n poissaolo voi merkitä katastrofia mahdollisesti hengenvaarallisissa tilanteissa, autonomisesta autosta ajamisesta leikkaukseen. Pelottava.
Vaikka [syvä todisteiden regressio] tarjoaa useita etuja olemassa oleviin lähestymistapoihin verrattuna, sen ensisijaisia rajoituksia ovat säätökertoimen säätäminen ja harhaanjohtavien todisteiden tehokas poistaminen epävarmuutta kalibroitaessa, sanoi MIT Ph.D. opiskelija Alexander Amini , joka johti tutkimusta, jonka hän esittelee ensi kuun NeurIPS -konferenssissa.
Se, mitä Amini ja hänen tiiminsä ovat onnistuneet tekemään, on edelleen melko merkittävää. Ennen tätä tekoälyn käyttäminen epävarmuuden arvioimiseksi ei ollut vain kallista, vaan myös liian hidasta päätöksille, jotka on tehtävä sekunnin murto -osissa. Neuraaliverkot voivat olla niin valtavia, että vastauksen laskeminen voi viedä ikuisuuden, ja luottamustason oppimisen odottaminen olisi liian pitkä aikaa edes vaivautua panostamaan. Olisi turhaa käyttää jotain tällaista itsessä -ajoauto, joka tarvitsee tietää käännöksen heti. Prosessi on edennyt nopeasti syvällä todisteiden regressiolla. Tämä hermoverkko tarvitsee suorittaa vain kerran selvittääkseen epävarmuuden tason.
harmaan höyhenen merkitys
Arvaamalla AI: n jo oppiman mallin epävarmuutta se voi kertoa meille suunnilleen kuinka leveä virhemarginaali on. AI käyttää todisteita arvioidensa tueksi. Tämä näyttö sisältää kaiken epävarmuuden, joka joko kätkeytyy hermoverkon juuri analysoimiin tietoihin tai sen itsetietoisuuteen siitä, kuinka varma se on omasta päätöksestään. Amini ja hänen tiiminsä testasivat syvää todisteiden regressiomenetelmää kouluttamalla tekoälyn arvioimaan kuvan jokaisen pikselin syvyyden. Syvyyden havaitseminen voi tarkoittaa elämää tai kuolemaa leikkauksessa, joka tarvitsee poistaa kasvaimen, joka saattaa sijaita syvällä kehon sisällä ja jota on vaikea nähdä muuten.
AI oli enimmäkseen tarkka, mutta se sotki kun siihen syötettiin kuvia, joita oli vaikeampi muistaa. Ainakin yhden asian suhteen se oli johdonmukainen: kun se kohtasi kuvia, jotka antoivat sille vaikeuksia, se ilmoittaisi tiimille epävarmuudestaan. Sen määritetty virhemarginaali voi ainakin opettaa tutkijoita parantamaan kyseistä mallia. Sen kyky tunnistaa Photoshoppatut kuvat avaavat myös mahdollisuuden tunnistaa syväväärennöksiä. Ihmisten täytyy vain olla tietoisia siitä, että tämä robotin aivo on edelleen erehtyväinen, emmekä voi luottaa siihen enempää kuin se itseensä.
Uskomme, että lisätutkimukset ovat perusteltuja löytääksemme vaihtoehtoisia tapoja poistaa harhaanjohtavia todisteita, Amini sanoi .
Eli tekoäly, joka osaa ajatella syvän todisteiden regression avulla, on melko luotettava niin kauan kuin väärän vastauksen tulos ei olisi tappava.
