Edrych yn fanwl ar ffugiadau dwfn sy’n diraddio, yn twyllo ac yn rhannu twyllwybodaeth

• Mae dau berson o bob pump yn dweud eu bod wedi gweld o leiaf un ffugiad dwfn yn ystod y chwe mis diwethaf – gan gynnwys rhai sy’n dangos cynnwys rhywiol, gwleidyddion a hysbysebion sgam
• Dim ond un o bob deg sy’n hyderus eu bod yn gallu adnabod ffugiad dwfn
• Mae Ofcom yn nodi’r hyn gall cwmnïau technoleg ei wneud i fynd i’r afael â ffugiadau dwfn niweidiol

Mae ffugiadau dwfn yn fideos, yn lluniau neu’n glipiau sain sydd wedi cael eu creu gyda deallusrwydd artiffisial i edrych yn real. Mae ymchwil newydd gan Ofcom, sy’n cael ei gyhoeddi heddiw, wedi canfod bod 43% o bobl 16+ oed yn dweud eu bod wedi gweld o leiaf un ffugiad dwfn ar-lein yn ystod y chwe mis diwethaf – gan godi i 50% ymysg plant 8-15 oed.^[1]

Ymysg yr oedolion sy’n dweud eu bod wedi gweld cynnwys ffugiad dwfn, dywed un o bob saith (14%) eu bod wedi gweld ffugiad dwfn rhywiol.^[2] Mae’r rhan fwyaf o’r dystiolaeth sydd ar gael yn dangos bod y mwyafrif helaeth o’r cynnwys hwn yn dangos menywod, nifer ohonynt yn dioddef gorbryder, PTSD a syniadaeth am hunanladdiad oherwydd eu profiadau.

O’r rheini a ddywedodd eu bod wedi gweld ffugiad dwfn rhywiol, roedd dwy ran o dair (64%) yn dweud bod hynny o rywun enwog neu ffigwr cyhoeddus, roedd 15% yn dweud ei fod yn ffugiad dwfn rhywiol o rywun roedden nhw’n ei adnabod, a dywedodd 6% ei fod yn ffugiad dwfn rhywiol ohonyn nhw eu hunain. Yn bryderus, roedd 17% yn meddwl ei fod yn portreadu rhywun dan 18 oed. 

Y math mwyaf cyffredin o ffugiad dwfn roedd plant 8-15-oed yn dweud eu bod wedi’i weld oedd ‘ffugiad dwfn doniol neu ddychanol’ (58%), wedi’i ddilyn gan ffugiad dwfn hysbyseb sgam (32%). 

Roedd llai nag un o bob deg (9%) o bobl 16+ oed yn dweud eu bod yn hyderus y byddent yn gallu adnabod ffugiad dwfn – er bod plant hŷn 8-15 oed yn fwy tebygol o ddweud hynny (20%).

Ffugiadau dwfn gwahanol

Mae datblygiadau technolegol diweddar mewn deallusrwydd artiffisial cynhyrchiol wedi trawsnewid tirwedd cynhyrchu ffugiadau dwfn yn ystod y ddwy flynedd ddiwethaf. Mewn papur trafod, a gyhoeddir heddiw, rydym yn edrych ar wahanol fathau o ffugiadau dwfn a beth ellid ei wneud i leihau’r risg y bydd pobl yn dod ar draws rhai niweidiol – heb danseilio’r broses o greu cynnwys cyfreithlon a diniwed.^[3]

Mae deallusrwydd artiffisial cynhyrchiol a chynnwys synthetig yn gallu gwella rhaglenni teledu a ffilmiau; gwella lluniau a fideos; creu deunyddiau difyr neu ddychanol; a helpu i ddatblygu technolegau diogelwch ar-lein. Mae modd ei ddefnyddio hefyd i hwyluso hyfforddiant i ddiwydiant, triniaethau meddygol ac ymchwiliadau troseddol. 

Fodd bynnag, mae rhai ffugiadau dwfn yn gallu achosi niwed sylweddol, yn enwedig yn y ffyrdd canlynol:

• Ffugiadau dwfn sy’n diraddio – drwy ddangos rhywun yn ffals mewn sefyllfa benodol, er enghraifft gweithgarwch rhywiol. Mae modd eu defnyddio i orfodi rhywun i dalu neu eu gorfodi i rannu rhagor o gynnwys rhywiol.
• Ffugiadau dwfn sy’n twyllo – drwy ystumio pwy ydy rhywun arall. Mae modd eu defnyddio mewn hysbysebion ffug a sgamiau rhamant.
• Ffugiadau dwfn sy’n rhannu twyllwybodaeth – drwy ledaenu celwydd yn eang ar draws y rhyngrwyd, er mwyn dylanwadu ar farn am faterion cymdeithasol neu wleidyddol pwysig, fel etholiadau, rhyfeloedd, crefydd neu iechyd.

Mewn gwirionedd, bydd achosion lle bydd ffugiadau dwfn yn torri ar draws sawl categori. Mae menywod sy’n newyddiadurwyr, er enghraifft, yn aml yn ddioddefwyr ffugiadau dwfn rhywiol, sydd yn diraddio’r rheini sy’n cael eu dangos ac yn gallu cyfrannu at effaith ddychrynllyd ar newyddiaduraeth feirniadol.

Beth allai cwmnïau technoleg ei wneud

Mae mynd i’r afael â ffugiadau dwfn niweidiol yn debygol o ofyn am weithredu gan bob rhan o’r gadwyn gyflenwi technoleg – o’r datblygwyr sy’n creu modelau deallusrwydd artiffisial cynhyrchiol i’r platfformau mae defnyddwyr yn eu defnyddio ac sy’n ofod i rannu ac i ledaenu cynnwys ffugiadau dwfn.

Rydym wedi edrych ar bedwar llwybr y gallai cwmnïau technoleg eu dilyn i liniaru risgiau ffugiadau dwfn:

• Atal: Gallai datblygwyr modelau deallusrwydd artiffisial ddefnyddio hidlyddion promptiau i atal creu mathau penodol o gynnwys; tynnu cynnwys niweidiol o setiau data hyfforddi modelau; a defnyddio hidlyddion allbwn sy’n rhwystro cynnwys niweidiol yn awtomatig rhag cael ei gynhyrchu. Mae modd iddyn nhw gynnal ymarferion ‘tîm coch’ – math o werthusiad model deallusrwydd artiffisial sy’n cael ei ddefnyddio i ganfod gwendidau.^[4]
• Mewnblannu: Mae datblygwyr modelau deallusrwydd artiffisial a phlatfformau ar-lein yn gallu mewnblannu marciau dŵr anweladwy mewn cynnwys, fel bod modd canfod y cynnwys drwy ddefnyddio algorithm dysgu dwfn; atodi metaddata at gynnwys pan fydd yn cael ei greu; ac ychwanegu labeli gweladwy yn awtomatig at gynnwys sy’n cael ei gynhyrchu gan ddeallusrwydd artiffisial pan gaiff ei lwytho i fyny.
• Canfod: Mae platfformau ar-lein yn gallu defnyddio adolygiadau cynnwys awtomataidd ac wedi’u harwain gan bobl i helpu i wahaniaethu rhwng cynnwys go iawn a chynnwys ffug, hyd yn oed pan na fydd unrhyw ddata cyd-destunol wedi’i atodi iddo. Er enghraifft, dosbarthwyr dysgu peirianyddol sydd wedi cael eu hyfforddi ar gynnwys ffugiadau dwfn hysbys.
• Gorfodi: Gall gwasanaethau ar-lein osod rheolau clir o fewn eu telerau gwasanaeth a chanllawiau cymunedol am y mathau o gynnwys synthetig y gellir ei greu a’i rannu ar eu platfform, a gweithredu yn erbyn defnyddwyr sy’n torri’r rheolau hynny, er enghraifft drwy dynnu cynnwys i lawr ac atal neu ddileu cyfrifon defnyddwyr.

Nid gofynion yw’r rhain, ond gallai’r holl ymyriadau uchod helpu i liniaru creu a lledaenu ffugiadau dwfn niweidiol. Fodd bynnag, nid oes un ateb i hyn, ac mae mynd i’r afael â hyn yn galw am ddull gweithredu sy’n cynnwys sawl elfen.

Beth mae Ofcom yn ei wneud

Mae ffugiadau dwfn anghyfreithlon yn gallu arwain at ganlyniadau dinistriol, ac maen nhw’n aml yn cael eu targedu at fenywod. Rydym yn gweithio’n gyflym i ymgynghori ar sut dylai platfformau gydymffurfio â’u dyletswyddau newydd o dan y Ddeddf Diogelwch Ar-lein. Bydd hynny’n cynnwys canllawiau ar amddiffyn menywod a merched.

Os na fydd platfformau sy’n cael eu rheoleiddio yn cyflawni eu dyletswyddau pan ddaw’r amser, bydd gennym ystod eang o bwerau gorfodi i sicrhau eu bod yn cael eu dal yn gwbl atebol am ddiogelwch eu defnyddwyr.

Gill Whitehead, Cyfarwyddwr Grŵp Diogelwch Ar-lein Ofcom

Pan ddaw’r dyletswyddau newydd o dan y Ddeddf Diogelwch Ar-lein i rym y flwyddyn nesaf, bydd yn rhaid i wasanaethau sy’n cael eu rheoleiddio fel cwmnïau cyfryngau cymdeithasol a pheiriannau chwilio asesu’r risg o gynnwys neu weithgarwch anghyfreithlon ar eu platfformau – gan gynnwys sawl math o gynnwys ffugiad dwfn (er nad yw pob math yn cael ei ddal gan y drefn diogelwch ar-lein) – cymryd camau i’w atal rhag ymddangos, a gweithredu’n gyflym i’w ddileu pan fyddant yn dod yn ymwybodol ohono. 

Yn ein canllawiau drafft ar niwed anghyfreithlon a chodau diogelwch plant, rydym wedi argymell mesurau cadarn y gall gwasanaethau eu cymryd i fynd i’r afael â chynnwys ffugiadau dwfn anghyfreithlon a niweidiol. Mae’r rhain yn cynnwys mesurau sy’n ymwneud â chynlluniau labelu a dilysu defnyddwyr, dylunio algorithm argymhellwyr, cymedroli cynnwys, a riportio a chwynion gan ddefnyddwyr.

Dyma ‘argraffiad cyntaf’ ein codau ac rydym eisoes yn edrych ar sut gallwn eu cryfhau yn y dyfodol wrth i ni gael rhagor o dystiolaeth. 

Rydym hefyd yn annog cwmnïau technoleg nad ydynt yn cael eu rheoleiddio o dan y Ddeddf Diogelwch Ar-lein, fel datblygwyr a gwesteiwyr modelau deallusrwydd artiffisial, i wneud eu technoleg yn fwy diogel o’r cam dylunio gan ddefnyddio’r mesurau rydym wedi’u nodi heddiw.

Nodiadau  

1. Ffynhonnell: Polau Ffugiadau Dwfn Ofcom, Mehefin 2024. Cafodd 2,000 o bobl sy’n cynrychioli’r wlad yn y DU ac sy’n 16 oed a hŷn eu cyfweld; a chafodd 1,000 o bobl sy’n cynrychioli’r wlad ym Mhrydain Fawr rhwng 8 a 15 oed eu cyfweld.
2. O’r ymatebwyr 18 oed a hŷn (n=151) a oedd yn meddwl eu bod wedi gweld ffugiad dwfn rhywiol.
3. Mae papurau trafod yn cyfrannu at waith Ofcom drwy rannu canlyniadau ein hymchwil a hybu trafodaeth ym meysydd cylch gwaith Ofcom. Fodd bynnag, nid ydynt o reidrwydd yn cynrychioli safbwynt terfynol Ofcom ar faterion penodol. Nid yw papur heddiw yn ganllawiau ffurfiol ar gyfer gwasanaethau sy’n cael eu rheoleiddio. Nid yw’n argymell nac yn gofyn am gamau gweithredu penodol.
4. Rydym hefyd heddiw wedi cyhoeddi papur trafod ar Gynnal Ymarferion Tîm Coch ar gyfer Niwed Deallusrwydd Artiffisial Cynhyrchiol, sy’n rhoi 10 arfer da gall cwmnïau eu mabwysiadu heddiw i gynyddu effaith unrhyw ymarferion tîm coch y maent eisoes yn eu cynnal.