„Facebook“ radioaktyvūs duomenys seka vaizdus, ​​​​naudojamus AI mokymui

Kategorija: Dirbtinis intelektas Paskelbta vasario 06 d

Naujienos: „Facebook AI Research“ komanda sukūrė būdą tiksliai sekti, kuriuos vaizdus duomenų rinkinyje buvo naudojami mašininio mokymosi modeliui mokyti. Nepastebimai pakoreguodami vaizdus ir sukūrę savotišką vandens ženklą, jie galėjo atlikti nedidelius atitinkamus vaizdų klasifikatoriaus, pritaikyto tiems atvaizdams, veikimo pakeitimų nepablogindami jo bendro tikslumo. Tai leido jiems vėliau suderinti modelius su vaizdais, kurie buvo naudojami juos mokyti.

Kodėl tai svarbu: „Facebook“ šią techniką vadina radioaktyviais duomenimis, nes tai analogiška radioaktyviųjų žymenų naudojimui medicinoje, kurie organizme atsiranda rentgeno spinduliais. Paryškinus, kokie duomenys buvo panaudoti mokant dirbtinį intelektą, modeliai tampa skaidresni, pažymint galimus šališkumo šaltinius (pvz., modelį, parengtą pagal nereprezentatyvų vaizdų rinkinį) arba atskleidžiant, kada duomenų rinkinys buvo naudojamas be leidimo arba netinkamais tikslais.

Nesuklyskite: Didelis iššūkis buvo pakeisti vaizdus nesulaužant gauto modelio. Nedideli AI įvesties patobulinimai kartais gali priversti jį padaryti kvailų klaidų, pavyzdžiui, vėžlį atpažinti kaip ginklą arba tinginį kaip lenktyninį automobilį. „Facebook“ pasirūpino, kad vandens ženklai būtų sukurti taip, kad taip neatsitiktų. Komanda išbandė savo techniką naudodami „ImageNet“, plačiai naudojamą daugiau nei 14 milijonų vaizdų duomenų rinkinį, ir nustatė, kad jie gali labai patikimai aptikti radioaktyvių duomenų naudojimą konkrečiame modelyje, net jei buvo pažymėta tik 1% vaizdų.