Diogelwch ar-lein: ein hagenda ymchwil

Cyhoeddwyd: 15 Ebrill 2024

Mae'r agenda hon yn nodi meysydd o ddiddordeb Ofcom ar gyfer ymchwil diogelwch ar-lein yn y dyfodol.

Drwy ei gyhoeddi, rydym yn gobeithio annog academyddion ac ymchwilwyr sydd â diddordeb i ystyried y ffordd orau o gyflawni ein nodau ymchwil a rennir.

Gweitharwch ac ymddygiad defnyddwyr

Rydym yn blaenoriaethu deall beth mae pobl yn ei wneud ar-lein, a’u hagweddau a’u profiadau o fod ar-lein. Gall dysgu mwy am sut mae nodweddion unigolyn, fel oedran a rhywedd, yn effeithio ar ymddygiad a phrofiadau ar-lein ein helpu i wneud penderfyniadau polisi sy’n gwneud bywyd yn fwy diogel ar-lein i bobl yn y DU.

Profiadau plant ar-lein

Mae sicrhau bod plant yn y DU yn gallu byw bywyd mwy diogel ar-lein yn rhan greiddiol o’r Ddeddf Diogelwch Ar-lein, felly mae ein hymchwil yn canolbwyntio ar hyn hefyd. Er ein bod eisoes yn buddsoddi mewn llawer o ymchwil yn y maes hwn, mae'n bwysig bod ein sylfaen dystiolaeth yn aros yn gyfredol. Mae’r ystyriaethau i ni wrth gynnal ymchwil gyda phlant yn cynnwys cynnal safonau uchel o ran diogelu ac ymarfer moesegol, a gallu asesu’n gywir beth mae plant yn ei wneud ar-lein.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

  • Methodolegau ar gyfer deall pa gynnwys mae plant yn dod i gysylltiad ag ef ar-lein, ble, a pha mor aml.
  • Ffyrdd y gallwn ni fesur effaith gronnus cynnwys niweidiol ar blant, a’u hymateb iddo.
  • Ffyrdd mae plant yn rhyngweithio â gwasanaethau sydd wedi’u cynllunio at ddefnydd plant yn unig (“gerddi muriog”) ac mewn mannau preifat fel sgyrsiau grŵp.
  • Methodolegau ar gyfer deall y berthynas rhwng gweithgarwch ar-lein a llesiant plant, gan gynnwys dod i gysylltiad â chynnwys niweidiol dro ar ôl tro.

Profiadau ar-lein defnyddwyr agored i niwed

Gall datblygu ein dealltwriaeth o anghenion a phrofiadau pobl fwy agored i niwed ar-lein ein helpu i fynd i’r afael yn well â’u hanghenion o ran diogelwch yn y dyfodol. Mae gennym ddiddordeb arbennig yn y ffordd y gall nodweddion defnyddwyr penodol awgrymu eu bod yn fwy agored i niwed ar-lein, a sut y gall dulliau gweithredu o ran diogelwch defnyddwyr adlewyrchu hyn orau.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

  • Nodweddion defnyddwyr (e.e. niwroamrywiaeth, rhwystrau iaith ac ati) a allai wneud unigolyn yn fwy agored i niwed ar-lein, a’r mannau ar-lein lle mae defnyddwyr o’r fath yn arbennig o agored i niwed.
  • Sut y gellir teilwra effeithiolrwydd mesurau diogelwch i ddiwallu anghenion gwahanol grwpiau o ddefnyddwyr agored i niwed.

Behavioural insights

Mae dealltwriaeth o ymddygiad yn ein helpu i ddeall sut mae defnyddwyr a busnesau yn ymddwyn, a sut mae pobl yn gwneud penderfyniadau. Rydym yn defnyddio’r wybodaeth hon i lywio ein gwaith o lunio polisïau, gwella gwasanaethau ac, yn y pen draw, sicrhau gwell canlyniadau i ddefnyddwyr a dinasyddion.

Mae ein diddordeb yn y rhyngweithio sy’n digwydd rhwng sut mae gwasanaethau’n cael eu dylunio, sut mae defnyddwyr yn ymddwyn, a sut mae niwed yn dod i’r amlwg ar-lein, yn ogystal â’r hyn sy’n sbarduno ac yn dylanwadu ar ymddygiad y busnesau rydym yn eu rheoleiddio.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

  • Ffactorau sy’n siapio’r broses o fabwysiadu technolegau diogelwch datblygol, a hynny ymysg gwahanol ddemograffeg.
  • Nodweddion dylunio sy’n gallu bod yn effeithiol o ran cynyddu dewis gwybodus neu rymuso defnyddwyr i lunio eu profiadau ar-lein.
  • Dulliau o ddangos effaith nodweddion dylunio ar ymddygiad defnyddwyr yn y tymor canolig i’r tymor hir (er enghraifft, effaith dod i gysylltiad â rhybuddion neu ysgogiadau niferus dro ar ôl tro i ddiweddaru rheolaethau cynnwys).
  • Nodweddion dylunio ac ymyriadau ataliol sy’n effeithio ar ymddygiadau mwy cymhleth (er enghraifft, cyswllt risg uchel sy’n symud ar draws llwyfannau neu ymddygiad pori peryglus ar draws nifer o lwyfannau).

Risg a niwed ar-lein

Mae deall natur, achosion ac effeithiau niwed ar-lein yn ganolog i’n dyletswyddau diogelwch ar-lein. Mae’r Ddeddf Diogelwch Ar-lein yn gwahaniaethu rhwng cynnwys anghyfreithlon, fel deunydd cam-drin plant yn rhywiol, terfysgaeth a chynnwys casineb, a chynnwys nad yw’n anghyfreithlon ond a allai fod yn niweidiol i blant, fel pornograffi a chynnwys sy’n annog neu’n hyrwyddo anhwylderau bwyta.

Er bod gennym eisoes lawer o arbenigedd a thystiolaeth am y rhain, bydd sicrhau bod ein sylfaen dystiolaeth yn gyfredol i adlewyrchu’r datblygiadau diweddaraf yn broses barhaus.

Casineb a therfysgaeth

Mae defnyddio gwasanaethau ar-lein i ysgogi a radicaleiddio pobl agored i niwed, gan gynnwys plant, tuag at gasineb a thrais yn peri risg fawr. Gall arwain at ganlyniadau difrifol a phellgyrhaeddol, gan gynnwys i leiafrifoedd wedi’u targedu a grwpiau gwarchodedig. Yn y maes hwn sy’n newid o hyd, mae parhau i adeiladu ar ein dealltwriaeth o’r niwed hwn ar draws yr amrywiaeth enfawr o wasanaethau sydd o fewn ein cwmpas yn hanfodol i ni.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

  • Mesurau diogelwch yn y dyfodol a allai fod yn effeithiol o ran lliniaru yn erbyn lanlwytho cynnwys/gweithgarwch casineb a therfysgaeth a’i ledaenu ar-lein.
  • Technegau ar gyfer dysgu mwy am yr ymddygiadau a’r nodweddion sy’n gysylltiedig â phobl sy’n cyflawni iaith casineb a gweithgarwch/cynnwys terfysgol ar-lein.
  • Technegau ar gyfer dysgu mwy am y berthynas rhwng gwasanaethau chwarae gemau ac iaith casineb ac eithafiaeth.

Camwybodaeth a thwyllwybodaeth

Mae camwybodaeth yn un o’r niwed posibl mwyaf cyffredin y mae oedolion a phlant yn dod ar ei draws ar-lein. Mae dyletswydd Ofcom i hyrwyddo ymwybyddiaeth o'r cyfryngau yn cynnwys helpu'r cyhoedd i ddeall natur ac effaith camwybodaeth a thwyllwybodaeth, a sut gallant leihau eu cysylltiad â hynny. Mae gennym ddyletswydd statudol hirsefydlog i ymchwilio i ymwybyddiaeth o’r cyfryngau, a’i hybu.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

  • Tactegau, technegau a gweithdrefnau sy’n dod i’r amlwg ar gyfer ymgyrchoedd twyllwybodaeth, ac unrhyw gyfranogwyr sy’n dod i’r amlwg.
  • Nifer yr achosion o gamwybodaeth/twyllwybodaeth, a’r cydberthynas rhwng yr achosion hynny ag adegau/digwyddiadau arwyddocaol, fel datblygiadau gwleidyddol neu argyfyngau dyngarol.
  • Y modd y mae lleoliadau ar-lein yn dod yn gysylltiedig â chamwybodaeth/twyllwybodaeth dros amser.

Twyll

Twyll yw’r drosedd a brofir amlaf yn y DU, gyda dioddefwyr twyll yn aml yn profi colled ariannol ac effaith negyddol ar eu hiechyd meddwl. Gwyddom fod twyllwyr yn addasu’n gyflym i fanteisio ar dechnolegau newydd, felly mae’n bwysig ein bod yn gwella ac yn diweddaru ein dealltwriaeth yn barhaus hefyd.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

  • Gwahaniaethau yn y defnydd o hysbysebion ar-lein mewn gweithgarwch twyllodrus - rhwng cynnwys a gynhyrchir gan ddefnyddwyr, a hysbysebion y telir amdanynt (gan gynnwys ar wasanaethau chwilio).
  • Y methodolegau y mae drwgweithredwyr yn eu defnyddio i dwyllo defnyddwyr.

Trais yn erbyn menywod a merched

Mae menywod a merched yn profi mathau anghymesur ac unigryw o niwed ar-lein. Mae hyn yn cynnwys amrywiaeth eang o niwed cymhleth a chysylltiedig sy’n ceisio bygwth, monitro, tawelu a bychanu menywod a merched. Er mwyn cyflawni ein dyletswyddau o amddiffyn diogelwch a hawliau defnyddwyr, mae’n bwysig parhau i ddatblygu ein dealltwriaeth o sut mae’r niwed hwn yn dod i’r amlwg, yn newid ac yn addasu i ddatblygiadau technolegol.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

  • Sut mae cam-drin ar sail rhywedd yn dod i’r amlwg ar-lein a sut gall technolegau datblygol neu wendidau unigol effeithio arno (e.e. nodweddion gwarchodedig, ffigurau cyhoeddus).
  • Mesurau lliniaru posibl ar gyfer atal ac ymateb i gam-drin sy’n gysylltiedig â rhywedd ar-lein (e.e. ataliaeth, adnoddau diogelwch) a pha heriau y gellid eu hwynebu wrth roi’r mesurau lliniaru ar waith.

Cam-drin a chamfanteisio’n rhywiol ar blant

Mae cam-drin a chamfanteisio’n rhywiol ar blant ar-lein yn fygythiad parhaus a chynyddol, gyda chanlyniadau dinistriol i’r rhai yr effeithir arnynt. Mae risgiau newydd yn dod i’r amlwg wrth i’r ffordd rydym yn rhyngweithio ar-lein esblygu, a byddwn yn parhau i gydweithio â rhanddeiliaid i gryfhau ein sylfaen dystiolaeth a chael yr effaith fwyaf bosibl ar ddiogelwch plant ar-lein.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

  • Deall tirwedd niwed ar-lein Cam-drin a chamfanteisio’n rhywiol ar blant (yn benodol Camfanteisio’n rhywiol ar blant ar-lein, troseddu ar draws llwyfannau, delweddau anweddus wedi’i hunan-gynhyrchu, gemau a bygythiadau ddatblygol fel realiti estynedig a deallusrwydd artiffisial cynhyrchiol)
  • Deall effaith Cam-drin a chamfanteisio’n rhywiol ar blant ar-lein ar ddioddefwyr a goroeswyr, gan gynnwys effaith niwed sy’n dod i’r amlwg
  • Gwerthuso effeithiolrwydd a defnyddioldeb adnoddau cymedroli sy’n dod i’r amlwg ar gyfer Cam-drin a chamfanteisio’n rhywiol ar blant ar-lein, fel dosbarthwr cynnwys awtomatig sy’n seiliedig ar algorithmau dysgu peirianyddol (ML).

Cynnwys sy’n niweidiol i blant

Mae’r Ddeddf Diogelwch Ar-lein yn nodi mathau penodol o gynnwys sy’n niweidiol i blant. Er ein bod wedi datblygu sylfaen dystiolaeth gref ar natur, amlder ac effaith y cynnwys hwn, mae profiadau plant ar-lein a’r cynnwys maen nhw’n dod ar ei draws yn parhau i esblygu. Mae adrannau 61 a 62 o’r Ddeddf restr o gynnwys sy’n niweidiol i blant.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

  • Mesur effeithiau niwed o ganlyniad i gynnwys sy’n niweidiol i blant fel y’i diffinnir yn y Ddeddf Diogelwch Ar-lein.
  • Adnabod niwed newydd a niwed sy’n dod i’r amlwg nad yw’n anghyfreithlon o bosibl, ond a allai fod yn niweidiol i blant.

Dylunio gwasanaethau

Mae’n bwysig ein bod yn diweddaru ein dealltwriaeth o wasanaethau ar-lein er mwyn sicrhau ein bod yn gallu nodi swyddogaethau sy’n dod i’r amlwg a lliniaru eu canlyniadau anfwriadol. Rhaid i ni fod yn ymwybodol o’r modelau moneteiddio sy’n effeithio ar ddyluniad gwasanaeth, ac ystyried sut gallai’r modelau hyn effeithio ar ryngweithio defnyddiwr â chynnwys niweidiol a defnyddwyr eraill. Bydd cynnal yr ymchwil hon yn ein galluogi i fonitro gwasanaethau o fewn y cwmpas sy’n dod i’r amlwg a dadansoddi sut gallai eu nodweddion gael effaith ar y defnyddiwr.

Sut mae gwasanaethau ar-lein yn cael eu cynllunio a’u gweithredu

Mae deall nodweddion a swyddogaethau gwasanaethau, yn ogystal â sut maent yn datblygu dros amser, yn ganolog i gyflawni amrywiaeth o’n dyletswyddau rheoleiddio. Mae gennym ddiddordeb mewn:

  • mathau newydd o wasanaeth;
  • nodweddion dylunio newydd sydd â’r potensial i newid neu ddylanwadu ar brofiadau defnyddwyr; ac
  • unrhyw nodweddion gwasanaeth eraill sy’n berthnasol i ddiogelwch ar-lein.

Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

    • Goblygiadau mathau newydd o wasanaethau, fel gwasanaethau technoleg ymgolli a datganoledig, ar gyfer diogelwch defnyddwyr ac ymwybyddiaeth o’r cyfryngau.
    • Y technegau sydd ar gael i ddysgu mwy am y berthynas rhwng swyddogaethau gwasanaeth a’r risg o niwed i’w ddefnyddwyr.
    • Y ffordd y mae dulliau gwahanol o ymdrin â dylunio algorithmig yn effeithio ar brofiad y defnyddiwr, fel bod yn agored i mathau neilltuol o gynnwys, ac ymgysylltu ag ef.

    Sut mae modelau busnes darparwyr gwasanaethau ar-lein yn gweithio

    Mae modelau busnes yn ddylanwad pwysig ar sut mae gwasanaeth yn datblygu dros amser. Mae angen i ni gael y wybodaeth ddiweddaraf am sut mae’r modelau busnes hyn yn gweithredu ar draws gwahanol ddiwydiannau er mwyn ein galluogi i ddeall eu cymhellion, a rhagweld risgiau sy’n dod i’r amlwg.

    Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

    • Technegau i ddeall yn well y berthynas rhwng model busnes darparwr gwasanaeth a’r risg o niwed i’w ddefnyddwyr.
    • Sut mae busnesau bach a chanolig yn defnyddio cyfryngau cymdeithasol a llwyfannau chwilio at ddibenion masnachol neu gynhyrchu refeniw.
    • Y ffordd y mae polisïau moneteiddio gwasanaethau yn gallu effeithio ar ddiogelwch defnyddwyr, ac ysgogwyr ar gyfer buddsoddi mewn diogelwch defnyddwyr.

    Mesurau a thechnoleg diogelwch

    Rydym yn gwneud ymchwil i ddatblygu ein sgiliau a’n dealltwriaeth o fesurau a thechnolegau ymddiriedaeth a diogelwch, ac mae’n bwysig ein bod yn dal i fyny â’r gyfradd gyflym o newid ac arloesi yn y maes hwn. Mae’n bwysig ein bod yn parhau i ddysgu sut mae dyluniad mesurau diogelwch mewn gwasanaethau yn gallu effeithio ar eu heffeithiolrwydd o ran cadw defnyddwyr yn ddiogel ar-lein.

    Gwerthuso mesurau diogelwch

    Mae asesu a yw mesurau diogelwch gwasanaethau yn effeithiol o ran lleihau’r risg o niwed i ddefnyddwyr yn y DU yn rhan bwysig o’r drefn Diogelwch Ar-lein. Bydd gwerthuso mesurau diogelwch hefyd yn ein helpu i ddeall a yw’r rhain yn creu’r risg o effeithiau anfwriadol – cadarnhaol neu negyddol. Gall hyn gynnwys asesu effaith ymyriadau diogelwch ar gystadleuaeth ac arloesedd, rhyddid mynegiant, preifatrwydd a phrofiadau defnyddwyr. Mae gennym ddiddordeb mewn nodi’r metrigau a’r technegau dadansoddi cywir i asesu effaith gwahanol fathau o fesurau diogelwch, ar raddfa fawr lle bo hynny’n bosibl. Rydym hefyd eisiau archwilio sut y gallai’r dulliau hyn amrywio yn ôl y math o niwed neu’r gwasanaethau a astudir.

    Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

    • Dulliau a metrigau dadansoddi newydd neu sy’n dod i’r amlwg i gefnogi’r gwaith o werthuso mesurau diogelwch y mae’r defnyddiwr yn rhyngweithio â nhw ar lwyfannau (e.e. adnoddau rhoi gwybod a fflagio, offer grymuso defnyddwyr).
    • A yw mesurau diogelwch yn gallu cael effeithiau anfwriadol ar brofiad defnyddwyr, hawliau defnyddwyr, ac ar arloesi a chystadleuaeth – a sut gellir mesur effeithiau o’r fath.
    • Y potensial i ymyriadau yn y gwasanaethau mwyaf arwain at ddadleoli niwed a gorfodi defnyddwyr i symud i wasanaethau eraill a/neu wasanaethau llai.
    • Dulliau dadansoddol o asesu ar raddfa fawr y risg o niwed i ddefnyddwyr y DU wrth ddefnyddio gwasanaethau ar-lein.

    Gwerthuso technoleg diogelwch

    Er bod nifer o gyfleoedd a manteision yn gysylltiedig â dyfodiad technolegau newydd, mae hefyd yn dod â’r potensial ar gyfer niwed newydd neu wahanol. Mae angen i ni werthuso effaith technoleg a mesurau technoleg diogelwch newydd yn barhaus a chael yr arbenigedd cywir i argymell mesurau newydd yn y dyfodol. Byddem yn gwerthfawrogi ymdrechion gan y gymuned ymchwil ehangach i ddatblygu dulliau a methodolegau newydd a all ein helpu yn ein tasg i asesu technolegau a mesurau technoleg diogelwch.

    Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

    • Datblygu methodolegau newydd i wella diogelwch a/neu asesu effeithiolrwydd mesurau technoleg diogelwch newydd, a hynny wrth werthuso saernïaeth aml-haenog yn ei chyfanrwydd neu yn y meysydd canlynol:
      • Systemau argymell
      • Sicrwydd oedran
      • Technolegau gwella preifatrwydd
      • Cymedroli cynnwys yn awtomataidd
      • Deallusrwydd Artiffisial Cynhyrchiol
      • Technoleg cynnwys synthetig a ‘deep fakes’
    • Technegau (gan gynnwys dulliau, egwyddorion a metrigau technegol) i greu a rhannu data hyfforddi sy’n cynnwys elfennau niweidiol mewn dull moesegol.

    Deallusrwydd Artiffisial Cynhyrchiol

    Wrth i systemau deallusrwydd artiffisial cynhyrchiol ddod yn fwy soffistigedig, ac wrth i’r defnydd o gymwysiadau o’r fath gynyddu, rydym angen cadw ein sylfaen dystiolaeth yn gyfredol. Rhaid i ni barhau i ddatblygu ein dealltwriaeth o effeithiau posibl deallusrwydd artiffisial cynhyrchiol ar ddefnyddwyr o ddemograffeg wahanol, a gwahanol fathau o niwed ar-lein.

    Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

    • Technegau i archwilio effaith deallusrwydd artiffisial cynhyrchiol ar wahanol fathau o gynnwys niweidiol a gwahanol grwpiau o ddefnyddwyr.
    • Yr effaith benodol y gall deallusrwydd artiffisial cynhyrchiol ei gael ar brofiadau plant ar-lein.
    • Technegau i sicrhau bod offer deallusrwydd artiffisial a setiau data hyfforddi yn cael eu llywodraethu mewn dull moesegol, er enghraifft, lliniaru unrhyw risg o ragfarn.

    Rheolaethau rhieni

    Mae ein hymchwil yn dangos bod rhieni’n defnyddio amrywiaeth o ddulliau i ymgysylltu â gweithgarwch ar-lein eu plant, a bod sawl ffactor yn dylanwadu ar agweddau rhieni/gofalwyr a phlant at y dulliau hyn. Mae deall y ffactorau hyn, yn ogystal ag effeithiolrwydd offer rheoli rhieni pam maen nhw ar waith yn bwysig er mwyn rhoi’r gefnogaeth sydd ei hangen ar rieni a phlant ar-lein.

    Mae’r meysydd sydd o ddiddordeb arbennig yn cynnwys:

    • Y ffactorau sy’n dylanwadu ar agweddau rhieni a phlant tuag at rheolaethau rhieni, a’u gallu i gydymffurfio â nhw.
    • Sut mae rheolaethau rhieni yn gweithredu ochr yn ochr â mesurau diogelwch eraill a ddarperir gan lwyfannau.
    • Sut i werthuso effeithiolrwydd rheolaethau rhieni ac unrhyw ganlyniadau anfwriadol sy’n deillio ohonynt.

    Nid yw'r themâu a'r meysydd a restrir yn yr agenda hon yn gynhwysfawr. Mae natur gymhleth y Ddeddf Diogelwch Ar-lein - yr amrywiaeth o gynnwys a gwasanaethau y mae'n eu cwmpasu – yn golygu ein bod bob amser yn ceisio ehangu ein sylfaen dystiolaeth.

    Cymerwch ran

    Rydym yn gweithio gydag academyddion mewn ffyrdd gwahanol, fel cynnig llythyrau o gefnogaeth ar gyfer prosiectau neu noddir PhD i fyfyrwyr ar y cyd.

    Cysylltwch â ni yn academic.engagement@ofcom.org.uk os hoffech wybod mwy. Gallwch hefyd fynegi eich diddordeb mewn ymchwilio i faes yn yr agenda hwn drwy gwblhau ein ffurflen ar-lein.

    Sgorio’r dudalen hon

    Diolch am eich adborth.

    Rydym yn darllen yr holl adborth ond ni allwn ymateb. Os oes gennych ymholiad penodol dylech weld ffyrdd eraill o gysylltu â ni.

    Oedd y dudalen hon yn ddefnyddiol?
    Yn ôl i'r brig