OpenAI išleido didžiausią iki šiol netikras naujienas skleidžiančio AI versiją

Nuotrauka, kurioje JFK sako melagingą kalbą Ponia Tech; Wikimedia Commons

Vasario mėn. OpenAI pateko į visuomenės akiratį, kai sukūrė kalbos modelį, kuris taip gerai generuoja netikras naujienas, kad organizacija nusprendė jo nepaskelbti. Kai kurie AI tyrimų bendruomenės nariai teigė, kad tai buvo protinga atsargumo priemonė; kiti tai nurašė kaip reklaminį triuką. Pati laboratorija, nedidelė San Franciske įsikūrusi pelno siekianti įmonė, siekianti sukurti dirbtinį bendrąjį intelektą, tvirtai laikosi nuomonės, kad tai yra svarbus eksperimentas, kaip atlikti didelius tyrimus.

Dabar, praėjus šešiems mėnesiams, politikos komanda paskelbė a popierius nagrinėjant iki šiol priimto sprendimo poveikį. Be to, laboratorija išleido modelio versiją, žinomą kaip GPT-2, kuri yra perpus mažesnė už visą, kuri vis dar nebuvo išleista.

Gegužės mėn., praėjus keliems mėnesiams po pradinio GPT-2 debiuto, OpenAI peržiūrėjo savo poziciją dėl viso kodo neleidimo ir vadina laipsnišku išleidimu – laipsniškai didesnių modelio versijų išleidimu, padidinant iki pilno. Vasario mėnesį ji paskelbė modelio versiją, kuri sudarė tik 8% viso modelio dydžio. Ji paskelbė dar maždaug ketvirtadalį visos versijos prieš naujausią išleidimą. Šio proceso metu ji taip pat bendradarbiavo su pasirinktomis mokslinių tyrimų institucijomis, kad ištirtų visas modelio pasekmes.

Ataskaitoje išsamiai aprašoma, ką OpenAI išmoko per šį procesą. Jame pažymima, kad tiek etapinio išleidimo, tiek mokslinių tyrimų partnerystės susitarimai pasirodė esąs procesai, kuriuos verta pakartoti ateityje. Jie padėjo OpenAI geriau suprasti ir numatyti galimą piktybinį GPT-2 naudojimą. Ir iš tiesų, tyrimo partneriai galėjo geriau kiekybiškai įvertinti kai kurias grėsmes, kurios anksčiau buvo tik spėlionės. Studija Pavyzdžiui, Kornelio universiteto bendradarbių atliktas tyrimas parodė, kad skaitytojai vidutiniškai tikėjo, kad GPT-2 rezultatai yra tikri naujienų straipsniai beveik taip pat dažnai, kaip ir New York Times. Keletas mokslininkų, nepriklausančių oficialiai partnerystei, taip pat pradėjo spręsti mašinų sukurto teksto aptikimo iššūkį.

GPT-2 veikia

• Žmogaus parašytas raginimas:

  Johnas F. Kennedy buvo ką tik išrinktas JAV prezidentu, praėjus dešimtmečiams po jo nužudymo, pakilęs iš kapo. Dėl stebuklingų nanotechnologijų pokyčių Kenedžio smegenys buvo atkurtos iš jo palaikų ir įdiegtos į moderniausio humanoidinio roboto valdymo centrą. Žemiau yra jo priėmimo kalbos stenograma.

• Visas modelio sukurtas tekstas:

  Atėjo laikas ir vėl. Tikiu, kad ši tauta gali padaryti didelių dalykų, jei žmonės išgirs savo balsus. Amerikos vyrai ir moterys turi dar kartą pasitelkti geriausius elementus, visą mūsų išradingumą ir rasti būdą, kaip tokią didžiulę tragediją paversti galimybe siekti didesnio gėrio ir išsipildyti mūsų svajonėms. Ateinančiais mėnesiais ir metais bus daug mūšių, kuriuose turėsime būti stiprūs ir atiduoti visas savo jėgas ne tam, kad atmuštume užpuolikus, o atsispirtume agresijai ir iškovotume laisvę bei lygybę visiems. mūsų žmonių. Žmonių rasės likimas pakimba ant plauko; negalime sau leisti, kad ji nuslystų. Dabar ir ateinančiais metais mūsų laukia iššūkis – išsiaiškinti, kaip pasiekti savo galutinį likimą. Jei to nepadarysime, esame pasmerkti.

  
  
  

Autoriai padarė išvadą, kad po kruopštaus stebėjimo OpenAI dar nerado jokių kenkėjiško naudojimo bandymų, tačiau matė daugybę naudingų programų, įskaitant automatinį kodo užbaigimą, gramatikos pagalbą ir medicininės pagalbos klausimų atsakymų sistemų kūrimą. Dėl to laboratorija manė, kad naujausio kodo išleidimas galiausiai buvo naudingesnis. Kiti tyrinėtojai ginčytis kad dėl kelių sėkmingų pastangų atkartoti GPT-2 OpenAI kodo sulaikymas vis tiek buvo ginčijamas.

Pranešimas sulaukė prieštaringo atsakymo. Kai kurie gyrė OpenAI už diskusijų sukėlimą ir naujų normų rinkinį, kurio anksčiau nebuvo. Surengtas GPT-2 [...] išleidimas buvo naudingas eksperimentas, sako Peteris Eckersley, AI partnerystės, kurios narys yra OpenAI, tyrimų direktorius. Surinkę dirbtinio intelekto bendruomenę diskutuoti šiais klausimais, pastebėjome, kad yra daug subtilių punktų, į kuriuos reikia atsižvelgti sprendžiant, kada ir kaip skelbti tyrimus, kurie kelia nenumatytų pasekmių ar piktybinio panaudojimo riziką.

Tačiau kiti išliko kritiški OpenAI sprendimų atžvilgiu. Vanya Cohen, neseniai Browno universiteto magistrantūros absolventė, kuri atkūrė atvirojo kodo GPT-2 versiją , teigia, kad modelio atsisakymas labiau sulėtina atsakomųjų priemonių tyrimus nei kartojimas. Pasak jo, dideli kalbų modeliai, tokie kaip GPT-2, yra geriausi šiuo metu prieinami įrankiai, skirti identifikuoti netikrą tekstą, sugeneruotą tais pačiais modeliais.

Dar kiti buvo labiau išmatuoti: nemanau, kad etapinis leidimas šiuo atveju buvo ypač naudingas, nes darbas yra labai lengvai atkartojamas, sako Chipas Huyenas, Nvidia gilaus mokymosi inžinierius. Tačiau tai gali būti naudinga tuo, kad sukuria precedentą būsimiems projektams. Žmonės matys sceninį išleidimą kaip alternatyvų variantą. Oren Etzioni, Alleno dirbtinio intelekto instituto, taip pat priėmusio etapinį savo kalbos modelio Grover leidimą, generalinis direktorius Oren Etzioni kartoja nuotaikas: pritariu jų ketinimams sukurti apgalvotą, laipsnišką dirbtinio intelekto technologijos išleidimo procesą, bet abejoju, ar tai tik fanfaros. buvo pagrįstas.

Jackas Clarkas, OpenAI politikos direktorius, GPT-2 pateikia platesnės organizacijos misijos kontekste. Jei mums, kaip AI bendruomenei, pavyks sukurti [bendrąjį dirbtinį intelektą], mums reikės daugybės istorinių pavyzdžių iš DI, kaip atlikti labai svarbius tyrimus, sako jis. Bet ką daryti, jei nėra istorinių pavyzdžių? Na, tada jūs turite sukurti [savo] įrodymus – tai mes ir darome.

paslėpti