[CHWARAE CERDDORIAETH] 

DAVID Malan: Mae hwn yn CS50. Mae hyn yn y diwedd yr wythnos 10. A bachgen, mae gennym dosbarth da i chi heddiw. Rydym mor gyffrous i wahodd dau o mae ein cyfeillion o Iâl hyd i ni heddiw ac i edrych ar y groesffordd deallusrwydd artiffisial, roboteg, prosesu iaith naturiol, a mwy. 

Ac yn wir, dros y wythnosau diwethaf, rydym wedi yn sicr yn treulio llawer o amser, yn enwedig yn y psets cynharach, gan ganolbwyntio ar fanylion lefel isel 'n bert. Ac mae'n hawdd iawn colli golwg y goedwig ar gyfer y coed ac yn cael hongian i fyny ar dolenni ac amodau ac awgrymiadau, yn sicr, ac yn y blaen. Ond y gwir yw eich bod guys awr yn cael y cynhwysion y gallwch mewn gwirionedd ag ef ddatrys rhai problemau diddorol, ymysg hwy y rhai y mae ein cyfeillion yn Iâl yn gweithio ar ddim ond swil Caergrawnt. 

Felly caniatáu i mi yn gyntaf i gyflwyno ein pen addysgu cynorthwyydd o Yale, Andy. 

[Cymeradwyaeth] 

ANDY: Yn gyntaf oll, dim ond diolch chi am ganiatáu gwpl Yalies i pop ar lawr i Gaergrawnt heddiw. Rydym wir yn gwerthfawrogi hynny. Yn ail, i'n ffrindiau yn ôl home-- Jason, diolch am aros a rhedeg ddarlith. Hope mae hyn i gyd yn dda yn New Haven. 

Felly ie, rwy'n super gyffrous i gyflwyno Scaz heddiw. Scaz rhedeg y labordy roboteg. Mae e'n athro, fel, pump adrannau gwahanol yn Iâl. Yn ei labordy, mae wedi llawer, llawer robotiaid sy'n ei fod yn hoffi i chwarae gyda. Mae ganddo, fel, yr swydd coolest yn y byd. Ac mae'n cael at y math o lanast o gwmpas gyda bod pob dydd hir ac yn gwneud rhywfaint o waith, yn ogystal. 

Ac felly rydym mewn gwirionedd yn dod yn un Ohonynt i lawr gyda ni heddiw. Felly, heb ado pellach, Scaz yw mynd i fynd yn ei flaen a chyflwyno ni at ei ffrind robot. 

[Cymeradwyaeth] BRIAN SCASSELLATI: Diolch, David. Diolch, Andy. Mae mor wych i fod yn yma gyda phawb heddiw. Yr wyf am fod yn glir iawn nad gyntaf y staff CS50 yma yng Nghaergrawnt wedi bod yn anhygoel o groesawgar i ni. Rydym mor ddiolchgar am bopeth maen nhw wedi'i wneud i'n cefnogi. Ac felly hoffem allu i ddychwelyd y caredigrwydd. 

Felly heddiw, rydym yn cael cyhoeddi ein bod ni'n mynd i gael newydd, un-oa-fath ddigwyddiad CS50 digwydd yn New Haven wythnos nesaf. Ac mae hyn yn y CS50 Ymchwil Expo. Felly rydym yn mynd i gael ei gwahodd everyone-- CS50 myfyrwyr, staff o'r ddau Harvard a Yale-- i yn dod i lawr ac yn ymweld â ni ar ddydd Gwener. Bydd gennym amrywiaeth eang o dros 30 o wahanol bobl sy'n cyflwyno a upperclassmen exhibiting-- dangos oddi ar rai o'u cynhyrchion ymchwil. Bydd gennym rai startups, hyd yn oed, yn edrych am ychydig o dalent dechnoleg newydd, startups o'r ddau Harvard a Iâl. A byddwn yn cael rhywfaint o grwpiau o fyfyrwyr chwilio am aelodau newydd. 

Mae'n mynd i fod yn gyfnod cyffrous iawn. Gobeithio y rhai ohonoch sydd yn yn dod i lawr ar gyfer y gêm Harvard-Iâl Bydd yn gallu stopio gan ychydig bach yn gynnar, i'r dde yng nghanol y campws, Llyfrgell Goffa Sterling. Rydym yn mynd i gael set o arddangosion sy'n amrywio o ymreolaethol hwylio i ffyrdd o ddefnyddio meddalwedd i ddiogelu llawysgrifau canoloesol. 

Rydym yn mynd i gael ad rhwydweithio hoc a phobl dysgu godio meddalwedd yn Cape Town. Bydd gennym cyfrifiadur arddangosiadau cerddoriaeth. A byddwn yn wrth gwrs yn cael mwy o robotiaid. Felly rydym ydych chi'n gobeithio chi helpu ymuno â ni ar gyfer y digwyddiad. Dylai fod yn llawer o hwyl, ychydig o fwyd, ac mae llawer o diddorol pethau i siarad am. 

Felly heddiw, rydym yn mynd i siarad am brosesu iaith naturiol. Ac mae hyn yn yr ymgais i ni i adeiladu ffordd newydd o ryngwynebu gyda'n dyfeisiau oherwydd ar gyfer yr ychydig wythnosau diwethaf, ydych wedi bod yn canolbwyntio ar sut y mae bod gallwch ysgrifennu cod, ysgrifennu meddalwedd hynny yn ffordd o allu dweud i peiriant, mae hyn yn hyn yr wyf am i chi ei wneud. 

Ond ni ddylai fod angen i i ni yn disgwyl bod popeth dyna i maes 'na sy'n cael ei ddefnyddio gan pawb yn y byd yn mynd i fod yn hyfedr yn y math hwn o hyfforddiant. Felly rydym yn gwahaniaethu rhwng y cyfrifiadur ieithoedd a languages-- naturiol hynny yw, pethau sy'n bodau dynol defnydd i gyfathrebu â phobl eraill. Ac rydym yn ceisio adeiladu rhyngwynebau sy'n defnyddio y mecanweithiau cyfathrebu naturiol. 

Yn awr, yn union fel pob pwnc arall ein bod wedi dechrau gyda mewn CS50, rydyn ni'n mynd i ddechrau gyda'r symlaf ychydig o brosesu iaith naturiol y gallwn ei ddychmygu. Rydym yn mynd i ddechrau gyda'r rhan hanesyddol o iaith naturiol. Ac yna byddwn yn adeiladu hyd at systemau mwy a mwy diweddar a chael ychydig o demos hwyl ar hyd y ffordd. 

Felly rydym yn mynd i ddechrau gyda'r hyn oedd yn Mae'n debyg iaith naturiol gyntaf system brosesu. Roedd hwn yn system feddalwedd a ysgrifennwyd yn 1966 gan Joseph Weizenbaum o'r enw ELIZA. A ELIZA ei gynllunio i ailadrodd y math o ryngweithio byddai gennych gyda Seicotherapydd Rogerian. Yn awr, mae'r Rogerians, eu bod wedi syniad bod seicotherapi cymryd rhan yn gallu adlewyrchu yn ôl i glaf a siarad â nhw, yn y bôn, dim ond iddynt roi ychydig bach bach y therapydd. Hynny yw, mae popeth a ddywedodd y therapydd oedd i fod i fod yr un yn adlewyrchiad o yr hyn y mae'r claf yn dweud wrthynt. 

Felly gadewch i ni geisio a demo hyn. A oes gennym gwirfoddolwr pwy fyddai yn barod i rannu eu dyfnaf, dywyllaf, a / neu chyfrinachau ffug gyda ELIZA? Cadarn, pam na wnewch chi ddod ar i fyny. Fantastic. A'ch enw? 

MILES: Miles. 

BRIAN SCASSELLATI: Miles. Neis i gwrdd â chi, Miles. Os ydych yn dal i hynny. Ac rydym yn mynd i yn defnyddio fersiwn o ELIZA ein bod ni wedi ailadrodd o fewn y IDE CS50. A byddwn yn edrych ar y ffynhonnell Cod i hyn mewn ychydig. Ond am ar hyn o bryd, rydym yn unig mynd i alw iddo gan deipio Eliza. 

A ELIZA yn mynd i roi ymatebion i chi sydd yn mynd i fod yn yr holl priflythrennau. Ac yn mynd i ofyn rhai cwestiynau i chi. A byddwn yn ymateb a theipio mewn ymatebion i ELIZA. Felly ELIZA wedi dweud, "Hi, Im 'ELIZA. Beth yw eich problem?" Beth fyddech chi'n hoffi ei dweud wrth ELIZA am heddiw? 

MILES: Ni allaf ond syrthio i gysgu os oes gen i sliperi bunny ar. 

BRIAN SCASSELLATI: Pob hawl. Iawn. 

[Chwerthin] 

"Ni allaf ond syrthio i gysgu gyda sliperi bunny ar. " Ac ELIZA yn dweud, "Say, a ydych yn cael unrhyw broblemau seicolegol? Efallai mae hyn yn ddangosydd da. " 

IAWN. Felly beth fyddech chi'n hoffi ei ymateb? 

MILES: Ydw. 

BRIAN SCASSELLATI: Ydw. Dyn o nifer o eiriau. Rwy'n mwynhau hynny. Eliza yn dweud, "Rydych yn ymddangos yn eithaf cadarnhaol." 

MILES: Na, yr wyf, mewn gwirionedd, electron. 

BRIAN SCASSELLATI: "Na A dweud y gwir, dw i'n electron. " "A wnaethoch chi yn dod i mi oherwydd eich bod yn electron? " Yn awr, gallwn weld rhai o'r y things-- Rydw i'n mynd i oedi i chi am ddim ond ail, Miles. Peidiwch â mynd i unrhyw le. Nid ydym yn ei wneud gyda chi eto. ELIZA yw, mewn rhai ffyrdd, gan ymateb i bethau penodol ei fod yn dweud, ond heb unrhyw ddealltwriaeth go iawn. Ac mae hefyd yn parroting ôl rhyw o'r rhannau o'i ddedfryd. 

Felly rydym yn dweud, "Na A dweud y gwir, dw i'n electron. " Ymatebodd Eliza yn ôl, "A wnaethoch chi ddod i mi oherwydd eich bod yn electron? " Iawn. Gadewch i ni roi un yn fwy ymateb yma. Rhowch gynnig un da, Miles. 

MILES: un da? 

Ie, os gwelwch yn dda fy helpu. BRIAN SCASSELLATI: "Ie. Os gwelwch yn dda fy helpu. "" A ydych yn sicr? " MILES: Na BRIAN SCASSELLATI: Na "Beth mae hynny'n awgrymu i chi?" 

MILES: Efallai na fyddaf yn electron. 

BRIAN SCASSELLATI: "Rwy'n efallai na fydd electron. " "A ydych yn dweud nad oes dim ond i fod yn negyddol?" 

Iawn. Felly Miles, diolch yn fawr. 

MILES: Diolch yn fawr. 

BRIAN SCASSELLATI: Diolch yn fawr iawn. [Cymeradwyaeth] 

Felly, mae hyn rhaglen ELIZA, mewn sawl ffordd, yn ymateb ychydig i'r darnau ein bod yn darparu heb unrhyw dwfn dealltwriaeth o'r hyn sy'n digwydd yma. Mae hwn yn fath o system Gelwir paru patrwm, lle rydym yn chwilio am rai darnau o destun ein bod wedyn yn mynd i fynd allan o beth Darparwyd fel mewnbwn, drosi, o bosibl, mewn rhyw ffordd, ac yna ei roi yn ôl i'r defnyddiwr. 

A oes unrhyw un yn eich barn chi bod ELIZA mewn gwirionedd perfformio seicdreiddiad yn ddilys yma? Mae un person, efallai. 

GYNULLEIDFA: [Anghlywadwy]. BRIAN SCASSELLATI: A sut mae hynny'n gwneud i chi deimlo? Ie, yn wir, y mae'n ei wneud. Ac rydym yn mynd i weld, mewn gwirionedd, mae'r cod ffynhonnell ar ei gyfer yn unig eiliad. Ac felly rydych yn mynd i fod yn gallu i wneud yn union hynny. 

Yn awr, ELIZA yw un math o beth byddem yn galw heddiw sgwrs bot. 'I jyst yn mynd drwy'r destun eich bod yn darparu, darparu'r isafswm moel dealltwriaeth neu brosesu, ac yna parotiaid yn ôl atoch. Felly, gadewch i ni edrych, gysyniadol, a siarad am yr hyn y yw hi y ELIZA yn ei wneud mewn gwirionedd. 

ELIZA yn cymryd osod sentence-- yn yn dweud, "Rwyf am i greu argraff ar fy rheolwr." A ELIZA yn edrych trwy y frawddeg a cheisio dod o hyd a yn cyd-fynd patrymau penodol. Felly, er enghraifft, un o'r patrymau bod ELIZA yn chwilio am eiriau "Rwyf am." Ac unrhyw bryd y gwêl yn rhywbeth sydd wedi "Rwyf am" ynddi, mae'n llunio ymateb. A bod ymateb yn llinyn sefydlog. Yn yr achos hwn, 'i' "pam ydych chi eisiau?" Ac yr wyf yn rhoi ychydig yn seren ar diwedd oherwydd bod yn unig ddechrau ein hymateb. Ac mae'r seren yn dangos bod rydym yn mynd i gymryd y gweddill o utterance-- y defnyddiwr "I greu argraff fy rheolwr" - ac rydym yn mynd i atodi hynny ar ddiwedd y llinyn hwn. 

Felly nawr, yn hytrach na dweud, "pam ydych chi eisiau i wneud argraff ar fy mhennaeth, " mae ychydig o ychwanegol prosesu y byddwn ni'n ei wneud. Hynny yw, bydd rhaid i ni trosi rhai o'r rhagenwau yma o "fy mhennaeth" i "eich bos." Ac efallai y bydd rhai eraill newidiadau y mae angen i ni eu gwneud. Felly yn hytrach na dim ond glynu ei uniongyrchol ar y diwedd, yr hyn y byddwn ni'n ei wneud yn byddwn yn cymryd gweddill y utterance-- defnyddiwr yn Yma-- gwyn a byddwn yn mynd ag ef un darn ar amser ac yn trosi pob llinyn modd, mae pob gair, i mewn i'r ddedfryd. 

Felly, byddwn yn cymryd y gair "i." Does dim trosi bod angen i ni wneud hynny. "Impress." Does dim trosi mae angen i ni ei wneud yno. "Mae fy" Bydd newid i "dy." Ac "rheolwr" fe wnawn ni adael fel "bos." Ac yna yn olaf, unrhyw beth sy'n dod i ben gyda chyfnod, byddwn yn trosi i mewn i gwestiwn. 

Mae hyn yn cyfateb patrwm syml iawn mewn gwirionedd yn eithaf llwyddiannus. A phan gyflwynwyd hyn yn 1966-- Joseph Weizenbaum rhaglennu hyn ar gyfrifiadur. Yn awr, cyfrifiaduron ar y pryd Nid oedd modelau bwrdd gwaith. Cawsant eu rhannu adnoddau. A byddai ei fyfyrwyr mynd a sgwrs gyda ELIZA. Yn y pen draw, roedd yn rhaid iddo cyfyngu ar fynediad ato oherwydd nad oedd ei myfyrwyr yn cael unrhyw waith a wneir. Roeddent yn unig sgwrsio gyda ELIZA. Ac, mewn gwirionedd, roedd yn rhaid iddo tân ei gynorthwy-ydd, a Treuliodd ei holl amser yn siarad â ELIZA am ei phroblemau dwfn a worrisome. 

Mae pawb sy'n defnyddio systemau hyn dechrau anthropomorphize iddynt. Maent yn dechrau meddwl amdanynt fel sef animeiddio a phobl go iawn. Maent yn dechrau adnabod rhai o'r y pethau y maent yn eu dweud yn dod yn ôl iddynt. Ac yr oeddent yn dod i wybod pethau amdanynt eu hunain. Ac, yn wir, hyd yn oed yr arbenigwyr, hyd yn oed y seicotherapyddion, dechrau poeni bod, mewn gwirionedd, efallai y byddai ELIZA yn eu lle. A hyd yn oed y cyfrifiadur gwyddonwyr yn poeni ein bod yn mor agos at ddatrys iaith naturiol. 

Yn awr, nid oedd hynny'n unman agos at wir. Ond dyna sut trawiadol Gall systemau hyn yn ymddangos. Felly gadewch i ni ddechrau i chwilio oddi tano a rhoi cynnig i gael ychydig o gwestiwn ble cod hwn yn digwydd mewn gwirionedd. Felly, byddwn yn gwneud y cod hwn ar gael wedyn. Ac mae hyn yn iawn porthladd syml ac uniongyrchol o'r gweithrediad ELIZA gwreiddiol. 

Felly, mae rhai o'r rhain yn arddulliadol pethau y byddwch yn gweld yma Nid yw arddull yr hyn byddem yn dymuno i chi ei wneud neu yr hyn yr ydym wedi bod yn dysgu i chi ei wneud. Ond rydym wedi ceisio cadw'n yr un fath ar draws y nifer o borthladdoedd bod hyn wedi cael fel ei fod Mae blas y gwreiddiol. Felly rydym yn mynd i gynnwys bagad o bethau, ac yna bydd gennym set o eiriau allweddol, pethau y bydd ELIZA cydnabod ac ymateb i yn uniongyrchol. Felly os oes gennych geiriau fel "Gallwch" neu "Rwy'n beidio gwneud" neu "na" neu "ie" neu "freuddwyd" neu "helo," yna ELIZA Bydd yn ymateb yn ddethol i hynny. Byddwn hefyd nifer penodol o bethau y byddwn yn cyfnewid, fel trosi "fy" i "dy." 

Ac yna bydd gennym set o ymatebion hynny ar gyfer pob un o eiriau allweddol hyn, byddwn yn cylchdroi drwy ymatebion gwahanol hyn. Felly os wyf yn dweud "ie" dair gwaith yn olynol, yr wyf yn Gallai cael tri gwahanol ymatebion gan ELIZA. Mae ein cod, felly, yw mewn gwirionedd yn hynod o syml. Os byddaf yn sgroliwch i lawr heibio pob un o'r rhain ymatebion yr ydym wedi'u rhaglennu yn ac rydym yn cael i lawr at ein prif, rydyn ni'n mynd i ymgychwyn un neu ddau o wahanol newidynnau ac yn gwneud ychydig o cadw tÅ· yn y dechreuad. Ond yna mae hollol set o god y gallwch ei deall. Mae un ddolen tra mawr sy'n dweud fy mod mynd i ailadrodd hyn drosodd a throsodd. 'N annhymerus' darllen yn llinell, ac byddaf storio hynny mewn llinyn mewnbwn. 'N annhymerus' gwirio a gweld os yw'n y keyword arbennig "bye," sy'n yn golygu gadael y rhaglen. Ac yna byddaf yn gwirio i weld a rhywun yn unig yw ailadrodd eu hunain drosodd a throsodd. A byddaf gweiddi arnyn nhw os ydynt yn gwneud. 'N annhymerus' dweud "peidiwch ag ailadrodd eich hun." 

Cyn belled â bod yr un o'r rhai a ddigwydd, yr ydym chi helpu Yna sganio drwy a dolen drwy, ar linellau 308-313 yma, a gwirio i weld yn unrhyw un o'r rhai keyword ymadroddion a gynhwysir yn y mewnbwn fy mod yn newydd roi? Os ceir cyfatebiaeth ar eu cyfer, yn dda Yna, byddaf yn cofio bod lleoliad. 'N annhymerus' cofio bod allweddair. A byddaf yn gallu adeiladu ymateb. 

Os nad wyf yn dod o hyd i un, yn dda yna, y peth olaf yn fy array allweddair fydd fy ymatebion diofyn, pan dim byd arall yn cyd-fynd. 'N annhymerus' yn gofyn cwestiynau fel "Pam wnaethoch chi dod yma? "neu" Sut alla i eich helpu chi? " sydd yr un rhannol briodol ni waeth beth yw'r mewnbwn yn. 

Yna byddwn yn adeiladu Ymateb ELIZA yn. Byddwn yn gallu cymryd ymateb hwnnw sylfaen, yn union fel y gwnaethom yn y Enghraifft "fy rheolwr". Os dyna i gyd fod yna yw-- os mai dim ond un llinyn fy mod i'n fod i respond-- Gall Fi jyst anfon yn ôl allan. Os yw wedi seren ar y diwedd, ac yna byddaf prosesu pob tocyn unigol mewn gweddill ymateb y defnyddiwr ac ychwanegu rhai mewn, cyfnewid allan air am air gan fod angen i I. 

Mae hyn i gyd yn gwbl rhywbeth y gallech adeiladu. Ac yn wir, y ffyrdd yr ydym yn cael dadleuon llinell orchymyn prosesu, y ffordd y mae gennych prosesu drwy ceisiadau HTTP yn dilyn yr un math o reolau. Maent yn cyfateb patrwm. 

Felly ELIZA wedi cael gymharol bwysig effaith ar iaith naturiol am ei fod yn ei gwneud yn ymddangos fel ei fod yn nod gyraeddadwy iawn, fel rywsut byddem yn gallu datrys y broblem hon yn uniongyrchol. Nawr, nid yw hynny'n dweud bod ELIZA ei wneud popeth y byddem yn dymuno ei wneud. Yn sicr ni. Ond dylem fod yn gallu i wneud rhywbeth mwy. 

Ein cam cyntaf i fynd y tu hwnt i ELIZA yn mynd i allu edrych ar Nid yw testun eu cofnodi i mewn i'r bysellfwrdd ond lleferydd, gwirioneddol cofnodwyd araith i mewn i feicroffon. Felly, wrth i ni edrych ar y rhain gwahanol ddarnau, rydym yn mynd i gael i adeiladu set o fodelau. Rydym yn mynd i gael i fod yn gallu i fynd o'r acwstig lefel isel traw information--, osgled, frequency-- ac yn troi i mewn i hynny rhai unedau ein bod Gallu trin yn haws ac, yn olaf, trin nhw mewn geiriau a brawddegau. 

Felly mae'r rhan fwyaf adnabod llais systemau sydd allan yno heddiw yn dilyn ystadegol model yr ydym yn adeiladu tri cynrychioliadau ar wahân o beth y signal sain mewn gwirionedd yn cynnwys. Rydym yn dechrau gyda model ffonetig sy'n sôn am ddim ond y sylfaen synau fy mod i'n cynhyrchu. Ydw i'n cynhyrchu rhywbeth sy'n B fel mewn bachgen neu D fel yn ci? Sut ydw i'n adnabod dau rhai sy'n wahanol ffonau fel wahân ac yn wahanol? 

Ar ben hynny, byddwn yn yna adeiladu model ynganiad geiriau, rhywbeth sy'n cysylltu at ei gilydd ffonau unigol hynny ac yn eu cyfuno i mewn i un gair. Ac ar ôl hynny, byddwn yn cymryd y geiriau a byddwn yn eu cydosod gydag iaith fodelu i mewn brawddeg gyflawn. 

Yn awr, rydym yn mynd i siarad am bob un o'r rhain yn annibynnol ac ar wahân. Ond mae'r rhain tri model i gyd dim ond yn mynd i fod yn ystadegau. Ac mae hynny'n golygu pan fyddwn yn gweithio gyda nhw, rydym chi helpu yn gallu gweithio gyda nhw i gyd yr un pryd. Iawn. Gadewch i ni ddechrau gyda ein model ffonetig. Felly modelau seinegol yn dibynnu ar techneg cyfrifiannu Gelwir modelau Markov cudd. Mae'r rhain yn fodelau graffigol yn yr wyf yn wedi ac yn adnabod cyflwr y byd fel rhai a nodweddir gan set o nodweddion. A bod cyflwr disgrifio un rhan o gamau a Im 'yn cymryd rhan mewn. 

Felly os wyf yn meddwl am wneud y sain "ma" fel mam, mae gwahanol cydrannau i hynny sain. Mae 'na ran lle yr wyf yn tynnu yn anadl. Ac yna yr wyf pwrs fy ngwefusau. Ac yr wyf yn rholio fy ngwefusau yn ôl ychydig rhan i wneud hynny "ma" gadarn. Ac yna mae 'na rhyddhau. Mae fy ngwefusau yn dod ar wahân. Awyr yn cael ei ddiarddel. "Ma." 

Byddai'r rhai tair rhan wahanol yn a gynrychiolir gan wladwriaethau yn y graph-- hwn cychwyn, canol, a diwedd. A byddwn yn cael trawsnewidiadau sy'n fy ngalluogi i deithio o un cyflwr i'r nesaf gyda thebygolrwydd penodol. Felly, er enghraifft, bod M sain a allai gael iawn, cymeriant byr iawn yn y beginning-- "Mm" - ac yna yn hwy, cam dirgrynol lle dwi'n dal fy gwefusau at ei gilydd a bron humming-- "Mmmm" - ac yna yn byr iawn plosive lle rwy'n ddiarddel breath-- "ma." 

Mae'r model Markov cudd yn cynllunio i ddal y ffaith bod y ffordd a wnaf y sain "ma" yn mynd i fod ychydig yn wahanol mewn ei amseru, yn amlder, a'i nodweddion na y ffordd yr ydych yn ei gwneud yn neu'r ffordd yr wyf gallai yn ei gwneud yn pan rwy'n siarad am wahanol ddefnyddiau y llythyr. "Mam" a "caf" bydd sain ychydig yn wahanol. 

Felly, er mwyn adnabod sain arbennig, byddem adeiladu modelau Markov, Markov cudd hyn modelau, o bob ffôn posibl fy mod Efallai eisiau cydnabod, pob sain bosibl, ac yna edrych ar y data acwstig sydd gen i a phenderfynu yn ystadegol pa un yw'r un mwyaf tebygol i wedi cynhyrchu'r sain hwn. IAWN. Gyda hynny model, byddwn wedyn yn dechrau i adeiladu ar ei ben. Rydym yn cymryd model ynganiad. Yn awr, weithiau ynganiad modelau yn syml ac yn hawdd oherwydd dim ond un ffordd i ynganu rhywbeth. Ar adegau eraill, maen nhw'n ychydig bach yn fwy cymhleth. Dyma ganllaw ynganiad am y peth coch sydd yn ffrwyth eich bod yn gwneud allan o sos coch. Nid yw pobl yn meddwl ei fod yn ffrwyth. Iawn? 

Erbyn hyn, mae llawer o wahanol ffyrdd y bydd pobl yn ynganu gair hwn. Bydd rhai yn dweud "traed-Mai-blaen." Bydd rhai yn dweud "traed-mAh-blaen." A gallwn ddal hynny gyda un o'r modelau graffigol hyn lle, unwaith eto, rydym yn cynrychioli trawsnewidiadau fel un sydd â thebygolrwydd penodol a thebygolrwydd gysylltiedig â hwy. 

Felly, yn yr achos hwn, pe bawn yn ei ddilyn y llwybr uchaf drwy hyn graff cyfan, Byddwn yn dechrau ar y llythyr ar y pellaf ar y chwith, y "ta" gadarn. Byddwn yn cymryd yr hanner uchaf, mae'r "oh," ac yna "ma," ac yna "a," ac yna "Ta," ac yn "oh." "Toe-efallai-blaen." Os byddaf yn cymryd y llwybr isaf drwy hwn, byddaf yn cael "ta-mAh-blaen." Ac os wyf yn mynd i lawr, ac yna i fyny, byddwn yn cael 'ta-efallai-blaen. " 

Mae'r modelau dal y rhain gwahaniaethau oherwydd pryd bynnag rydym yn defnyddio un o'r rhain systemau adnabod, mae'n mynd i gael i weithio gyda llawer o fath gwahanol o bobl, llawer o wahanol acenion, a hyd yn oed gwahanol ffyrdd o ddefnyddio un geiriau. Yn olaf, ar ben hynny, byddwn yn adeiladu rhywbeth sy'n edrych yn gymhleth, Gelwir y model iaith, ond mewn gwirionedd yw y symlaf o y tri gan fod y rhain yn gweithredu ar yr hyn a elwir yn fodelau n-gram. Ac yn yr achos hwn, rwy'n ddangos i chi model n-gram dwy ran, sef bigram. Rydym yn mynd i wneud corfforol y syniad bod weithiau, rhai geiriau yn cael eu yn fwy tebygol o ddilyn Rhoddir air nag eraill. Os wyf newydd ei ddweud "rhagolygon y tywydd," gallai'r gair nesaf yn debygol o fod "heddiw" neu a allai fod "y tywydd rhagolwg yfory. " Ond mae'n annhebygol o fod yn "y tywydd rhagolwg artisiog. " 

Beth model iaith yn ei wneud yw mae'n dal y rhai yn ystadegol drwy gyfrif, o'r rhai mawr iawn corpws, pob un o'r achosion lle mae un gair yn dilyn un arall. Felly, os wyf yn cymryd corpus-- mawr fel pob Wall Street Journal sydd wedi cael ei gynhyrchu ers 1930, sy'n un o'r corpuses-- safonol ac edrychaf trwy bob hynny testun, ac yr wyf yn cyfrif i fyny faint o weithiau ar ôl "Rhagolwg" ydw i'n gweld "heddiw" a sawl gwaith y gallaf weld "Rhagolwg" ddilyn gan "artisiog," yr un cyntaf yn mynd i fod yn llawer mwy tebygol. Mae'n mynd i ymddangos llawer amlach. Ac felly bydd yn cael uwch tebygolrwydd sy'n gysylltiedig ag ef. 

Os ydw i eisiau i chyfrif i maes y tebygolrwydd y bydd ymadrodd cyfan, Yna, Fi jyst dorri i fyny. Felly, y tebygolrwydd o wrandawiad y frawddeg "y llygoden fawr bwyta caws" yw'r tebygolrwydd y gair "Y" gan ddechrau brawddeg, ac yna y tebygolrwydd bod gair "llygoden fawr" yn dilyn y gair "y" a'r tebygolrwydd bod y gair "bwyta" yn dilyn "llygoden fawr," a'r tebygolrwydd y "Caws" yn dilyn "bwyta." 

Mae hyn yn swnio fel llawer o ystadegau, mae llawer o tebygolrwydd. A dyna i gyd ei bod yn. Ond y peth rhyfeddol yw os byddwch yn gwneud hyn gyda sampl ddigon mawr o ddata, Mae'n gweithio. Ac mae'n gweithio'n hynod dda. Mae pawb yn gwybod y technolegau hyn. Mae'r rhan fwyaf o systemau gweithredu yn dod â adnabod llais yn y fan hon. Rydym yn defnyddio Siri a Cortana a Echo. A'r pethau hyn yn seiliedig ar y math hwn o dair haen model-- model ffonetig ar y gwaelod, a model ynganiad yn y canol, a model iaith ar eu pennau. 

Yn awr, rhaid iddynt ei wneud ychydig yn fwy na hynny, er mwyn ateb cwestiynau. Ond mae'r gydnabyddiaeth o'r hyn yr ydych yn ddywediad yn dibynnu yn union ar hynny. Felly gadewch i ni gymryd enghraifft yma. Felly, yr wyf wedi fy ffôn yn eistedd i fyny fan hyn o dan y camera ddogfen. Ac rydym yn mynd i yn gofyn Siri ychydig o gwestiynau. Iawn? 

Felly gadewch i ni deffro fy ffôn yma. Siri, beth yw'r tywydd fel yn New Haven heddiw? 

Siri: Dyma y tywydd ar gyfer Connecticut heddiw New Haven,. 

BRIAN SCASSELLATI: OK. Felly, cyntaf y byddwch yn gweld bod Siri cydnabyddedig pob un o'r geiriau unigol ac yna llunio ymateb. Byddwn yn siarad am sut ymateb hwnnw Daw tua mewn ychydig bach. Ond yn awr ein bod yn gwybod bod hyn yn seiliedig yn unig ar yr ystadegau crai ac mae hyn batrwm math cyfateb o ddull, gallwn chwarae rhai gemau gyda Siri. 

Felly, yr wyf yn gallu rhoi cynnig arall arni. Siri, beth yw'r tywydd hippopotamus New Haven, heddiw? 

Siri: OK. Dyma y tywydd ar gyfer Newydd Haven, Connecticut ar gyfer heddiw. BRIAN SCASSELLATI: Siri yn Nid codi ofn gan y oherwydd ei fod yn dod o hyd i'r pattern-- "Tywydd," "heddiw," "New Haven." Dyna beth mae'n ymateb i, yn union fel ELIZA. Iawn. Gadewch i ni roi un yn fwy hyd yn oed yn mwy Enghraifft chwerthinllyd. Siri, artisiog tywydd armadilo hippopotamus New Haven? 

Siri: Gadewch i mi wirio ar hynny. Dyma beth yr wyf yn dod o hyd ar y we ar gyfer yr hyn yw artisiogau armadilo hippopotamus New Haven. 

BRIAN SCASSELLATI: OK. Felly, os wyf yn mynd yn ddigon pell i ffwrdd o model hwn, Rwy'n gallu drysu oherwydd nad oes ei mwy o amser yn cyfateb i'r patrwm sydd ganddo. Ac mae hynny'n ystadegol peiriant sy'n dweud, beth yw'r tebygolrwydd bod gennych y geiriau hippopotamus ac artisiog gyda'i gilydd, ac armadilo? Mae hynny rhaid iddo fod yn rhywbeth newydd. 

Felly technolegau hyn rydym yn defnyddio bob dydd. Os ydym am gymryd un cam yn eu ymhellach, fodd bynnag, os ydym mewn gwirionedd eisiau gallu siarad am yr hyn y mae'n yw bod y systemau hyn yn ymateb i, mae'n rhaid i ni siarad, unwaith eto, am set mwy sylfaenol o gwestiynau. A dyna bwnc mewn cyfathrebu ein bod yn galw ateb cwestiwn. Hynny yw, rydym yn awyddus i fod yn gallu canlynol-- yeah? GYNULLEIDFA: [Anghlywadwy]. BRIAN SCASSELLATI: A ydym yn cael i brosesu semantig cudd? Felly, ie. Mae llawer o bethau sy'n cael eu yn digwydd o dan yr wyneb gyda Siri ac mewn rhai o'r enghreifftiau Rydw i'n mynd i ddangos i chi nesaf lle mae cryn dipyn o ran y strwythur o'r hyn yr ydych yn ei ddweud sy'n bwysig. Ac, mewn gwirionedd, mae hynny'n wych rhagsylweddion ar gyfer y sleid nesaf i mi. 

Felly, yn yr un modd y mae ein adnabod llais ei adeiladu i fyny o haenau lluosog, os ydym am yn deall beth y mae bod mewn gwirionedd cael ei ddweud, rydyn ni'n mynd i eto yn dibynnu ar ddadansoddiad aml-haen y testun sy'n cael ei gydnabod. Felly, pan fydd Siri mewn gwirionedd yn gallu dyweder, edrychwch cefais y geiriau hyn. Nawr beth ddylwn i ei wneud gyda nhw? Mae'r elfen gyntaf yn aml i yn mynd trwy ac yn ceisio dadansoddi strwythur y frawddeg. Ac yn hyn yr ydym wedi ei weld yn yr ysgol radd, yn aml, fel math o diagramau brawddegau, rydym yn mynd i gydnabod bod rhai geiriau rolau penodol. Mae'r rhain yn enwau. Mae'r rhain yn rhagenwau. Mae'r rhain yn berfau. Ac rydym yn mynd i gydnabod hynny gyfer gramadeg penodol, yn yr achos hwn gramadeg Saesneg, mae yna ffyrdd dilys y gallaf eu cyfuno a ffyrdd eraill nad ydynt yn ddilys. 

Mae hynny'n gydnabyddiaeth, strwythur hwnnw, allai fod yn ddigon i helpu i arwain ni ychydig bach. Ond nid yw'n hollol ddigon i ni allu rhoi unrhyw ystyr i'r hyn sy'n cael ei ddweud yma. I wneud hynny, bydd yn rhaid iddynt ddibynnu ar rhyw faint o brosesu semantig. Hynny yw, rydym yn mynd i gael i edrych ar dan ystyr pob un o'r geiriau hyn mewn gwirionedd yn cario fel ystyr. Ac yn y ffordd symlaf o wneud hyn, rydym yn mynd i gysylltu â phob gair ein bod yn gwybod swyddogaeth benodol, trawsnewid yn sicr ei fod yn caniatáu i hynny ddigwydd. 

Yn yr achos hwn, efallai y byddwn yn labelu'r gair "John" â bod yn enw priodol, ei fod yn cario gydag ef hunaniaeth. Ac efallai y byddwn yn labelu "Mary" fel yr un ffordd. Tra berf fel "caru," fod yn gyfystyr â pherthynas arbennig ein bod yn gallu cynrychioli. Yn awr, nid yw hynny'n golygu ein bod yn deall beth yw cariad, ond dim ond ein bod yn deall yn y modd y system symbolaidd. Hynny yw, gallwn labelu mae'n a thrin hi. 

Gyda phob un o'r mathau hyn o ddulliau, unrhyw fath o brosesu semantig yma yn mynd i angen ychydig ychydig o wybodaeth a llawer o waith ar ein rhan ni. Mwyach Rydym yn y deyrnas lle mae ystadegau yn unig plaen yn mynd i fod yn ddigon i ni. Yn awr, er mwyn mynd o hyn i fod yn gallu siarad am y tu mewn beth sy'n digwydd mewn gwirionedd yma, i fod yn gallu trin hwn strwythuro a deall cwestiwn ac yna gallu i fynd allan a chwilio, sy'n gofyn am fwy model gwybyddol cymhleth. 

Mae'r ffordd y mae'r systemau hyn yn cael eu hadeiladu yw ar gyfer y rhan fwyaf iawn, iawn llafur dwys. Maent yn cynnwys bodau dynol treulio llawer iawn o amser yn strwythuro'r ffyrdd pa mathau hyn o ddedfrydau Gall gael eu cynrychioli mewn rhyw rhesymeg. Mae'n cael hyd yn oed ychydig mwy cymhleth, er. 

Hyd yn oed ar ôl i ni wedi delio gyda semanteg, rydym chi helpu yn dal i edrych ar y pragmateg o'r hyn sy'n cael ei ddweud. Hynny yw, sut ydw i'n cysylltu â'r geiriau bod rhaid i mi rywbeth yn gorfforol allan yno yn y byd neu mewn leiaf rhywfaint o ffynhonnell gwybodaeth y gallaf trin? 

Weithiau, mae'r rhain yn arwain at darnau gwych o amwysedd. "Red-poeth seren i briodi seryddwr." IAWN. Nawr, rydym yn darllen gan fod y Math doniol o pennawd y byddem yn gweld ar y teledu hwyr y nos oherwydd nid ydym yn dehongli "seren" i gael ei ystyr chorff nefol. Rydym yn gwybod ei fod yn golygu po fwyaf actor cyffredin neu actores gyda symiau uchel o gwelededd. 

"Sgwad yn helpu dioddefwyr brathiad ci." A yw'n bod y garfan mewn gwirionedd allan yno cynorthwyo ci wrth fynd o gwmpas ac yn brathu dioddefwyr? Neu a yw'n fod yna un unigolyn a oedd eich brathu gan gi oedd angen rhywfaint o help? Dim ond o edrych ar y gystrawen a semanteg y brawddegau, ni allwn benderfynu bod. 

"Hofrennydd bweru gan bryfed dynol." A oes, mewn gwirionedd, gwirioneddol pethau bach yn hedfan o gwmpas y yn bobl gydag adenydd powering hofrenyddion er lles y ddynoliaeth? Neu a oes un ddyfais fecanyddol sy'n deillio ei bŵer oddi wrth berson? 

Pan edrychwn ar y cwestiwn systemau ateb, mae'r rhain yn yr haenau sy'n mae angen i ni ddelio ag ef. Yn awr, y gorau a'r mwyaf didoli o gyffredin o'r systemau hyn heddiw yn gallu ei wneud pethau ar lefel sy'n ymhell tu hwnt i'r hyn oedd gennym 10 mlynedd yn ôl. Dyma un o'r systemau gorau dyna allan yno heddiw. Ac mae hyn yn system o IBM Watson enw. Mae hyn yn oddi wrth ein ffrindiau yn IBM. Mae hyn yn banciau Katherine, Jia Chen, a Priscilla Moraes gan roi i ni arddangosiad o Watson ddoe yn IBM Yorktown. [VIDEO Playback] -Sut wyt ti? 

-I Wyf yn. Yr wyf bob amser yn hapus pan fyddaf meddwl, yn enwedig pan fyddaf yn Gall gadw'n oer yn yr ystafelloedd gweinydd hyn. Pwy sydd yn yw eich hoff actores? 

-My Hoff actores Angelina Jolie fel Lara Croft yn Tomb Raider oherwydd bod ei gwreiddiol Ffurflen oedd fel cymeriad rhithwir fel fi. 

-Sut Gall Watson helpu cleifion? 

-A Y cynllun ar gyfer cleifion i cael mynediad at Watson yn uniongyrchol? Mynediad i ymgynghorol Watson Bydd ceisiadau yn amrywio yn ôl y defnydd achos. Ond ar hyn o bryd, bydd Watson yn unig yn darparu diagnosis a thriniaeth bosibl opsiynau i proffesiynol meddygol. Lle bo'n briodol, mae cleifion Gall ddarparu gwybodaeth i Watson, efallai drwy rhyngwyneb gwe porth, tabled, neu hyd yn oed ffôn symudol. Er enghraifft, gall claf fod yn gofynnwyd i ddisgrifio eu symptomau yn iaith naturiol yn uniongyrchol i ateb Watson, gan ganiatáu i'r meddyg i ganolbwyntio ar casglu data diagnosis ac nid. 

Pwy sydd yn lofruddio Abraham Lincoln? 

-John Wilkes Booth. 

-Yn Pa flwyddyn y gwnaeth yr Arizona Diamondbacks yn ennill Cyfres y Byd? 

-2001. 

[DIWEDD Playback] 

BRIAN SCASSELLATI: Felly mathau hyn o systemau rhaid iddynt ddibynnu ar yn gyntaf oll gan gydnabod yr araith; yn ail, ei droi'n mewnol ystyrlon cynrychiolaeth; ac yna, yn drydydd, gallu mynd allan a dod o hyd ffynhonnell wybodaeth sy'n yn eu galluogi i ateb y cwestiwn hwnnw. Mae'r lefel hon o gymhlethdod yn golygu yr un math o bethau rhaglennol eich bod wedi bod wneud mewn setiau broblem. 

Rydym yn gallu dosrannu ceisiadau HTTP yn yr un math o batrwm lefel isel cyfateb y gall ELIZA ei wneud. Rydym yn gallu trosi rhai i mewn i gynrychiolaeth fewnol, ac yna yn eu defnyddio i ymholiad rhai cronfa ddata allanol, o bosibl gan ddefnyddio SQL. Mae pob un o'r systemau sy'n yn cael eu hadeiladu heddiw i wneud y math hwn o naturiol cyfathrebu iaith yn cael eu hadeiladu ar un egwyddorion hyn. 

Yn awr, hyd yn oed system fel Nid yw Watson yn ddigon cymhleth i allu ateb fympwyol cwestiynau am unrhyw bwnc. Ac yn wir, mae'n rhaid iddynt fod strwythuro o fewn parth penodol. Felly, gallwch fynd ar-lein a gallwch ddod o hyd fersiynau o'r Watson sy'n gweithredu yn dda o fewn gwybodeg meddygol. Neu mae un ar-lein mai dim ond yn delio â sut i wneud argymhellion dda am pa cwrw yn mynd ag ef bwyd. Ac o fewn peuoedd hynny, gall ateb cwestiynau, ddod o hyd i'r wybodaeth sydd ei hangen. 

Ond ni allwch gymysgu a'u cyfateb. Mae'r system sydd wedi cael eu hyfforddi gyda'r gronfa ddata o fwyd a chwrw nid yw'n gweithio'n dda pan fyddwch yn sydyn roi yn y gwybodeg feddygol cronfa ddata. Felly hyd yn oed ein systemau gorau heddiw yn dibynnu ar lefel o brosesu yr ydym yn codio â llaw a adeiladu yn y seilwaith er mwyn i wneud y system hon rhedeg. 

Yn awr, y pwnc olaf yr wyf am i allu cyrraedd heddiw yn ymwneud â chyfathrebu dieiriau. Mae màs mawr o wybodaeth y rydym yn cyfathrebu â'i gilydd nid yw'n digwydd trwy'r geiriau unigol yr ydym yn gwneud cais. Mae wedi ei wneud â phethau fel agosrwydd, syllu, tôn eich llais, eich ffurfdro. A bod cyfathrebu yn hefyd rhywbeth y mae llawer o wahanol rhyngwynebau gofal llawer iawn am. Dyw hi ddim yn beth Siri poeni am. Gallaf ofyn i Siri rhywbeth mewn un llais neu mewn tôn gwahanol y llais, a Siri mynd i rhoi'r un ateb i mi. Ond nid dyna beth yr ydym yn adeiladu ar gyfer llawer o fathau eraill o rhyngwynebau. 

Rwyf am i eich cyflwyno yn awr i un o'r robotiaid. Cafodd hyn ei hadeiladu gan fy longtime cyfaill a chydweithiwr Cynthia Breazeal a'i chwmni Jibo. Ac mae robot-- hwn rydym yn mynd i gael cwpl o wirfoddolwyr dod o hyd i ryngweithio gyda hyn. Felly gall gen i ddau o bobl yn barod i chwarae gyda'r robot i mi? Pam na wnewch chi ddod ar i fyny, a pham nad ydych yn dod ymlaen i fyny. Os hoffech chi ymuno â mi i fyny yma, os gwelwch yn dda. 

Ac os gallwn i gael i chi yn dod i'r dde dros yma. Diolch. Hi. 

ALFREDO: Neis i gwrdd â chi. Alfredo. 

BRIAN SCASSELLATI: Alfredo. 

RACHEL: Rachel. BRIAN SCASSELLATI: Rachel. Neis i gwrdd â chi ddau. Alfredo, dw i'n mynd i gael i chi fynd yn gyntaf. Dewch i'r dde i fyny yma. Rydw i'n mynd i gyflwyno you-- os gallaf gael hyn oddi ar heb curo y microphone-- i ychydig o robot a enwir Jibo. IAWN? 

Yn awr, Jibo wedi'i gynllunio i fod yn rhyngweithiol. Ac er y gall roi i chi lleferydd, llawer o'r rhyngweithio gyda'r robot yn dieiriau. Alfredo, rwy'n mynd i ofyn i chi dweud rhywbeth neis ac yn ganmoliaethus at y robot, os gwelwch yn dda. ALFREDO: Yr wyf yn meddwl eich bod yn edrych yn 'n giwt. 

[Whirring SAIN] BRIAN SCASSELLATI: OK. Nid yw ei hymateb yn llafar. Ac eto roedd yn rhoi i chi y ddau gydnabyddiaeth glir ei fod wedi clywed yr hyn a ddywedasoch a hefyd rhywsut yn deall bod. IAWN? Camwch i'r dde yn ôl yma am un eiliad. Diolch. 

Rachel, os y byddech. Yn awr, yr wyf i'n mynd i roi chi y swydd yn llawer anoddach. Os byddech yn sefyll yma, yn ôl i fyny ychydig bach, felly gallwn fynd â chi ar gamera ac yn edrych fel hyn. Rydw i'n mynd i ofyn i chi ddweud rhywbeth olygu mewn gwirionedd a chas at y robot. 

RACHEL: Yr hyn yr ydych yn unig oedd yn ymddangos i wneud yn hollol hurt. 

[Hymian SAIN] 

Dyna oedd hyd yn oed yn fwy hurt. Beth sy'n digwydd gyda chi? Aw, peidiwch â teimlo'n wael. 'N annhymerus' yn rhoi hug chi. BRIAN SCASSELLATI: Pob hawl. Diolch, Rachel. Alfredo, Rachel, diolch guys yn fawr iawn. 

[Cymeradwyaeth] 

Felly y math hwn o ryngweithio wedi yn llawer o ffyrdd rhai o'r un rheolau a rhai o'r un strwythur fel hyn yr ydym ei chael yn rhyngweithio ieithyddol. Mae'n yn gyfathrebol ac yn gwasanaethu diben pwysig. A bod rhyngweithio, yn llawer o ffyrdd, wedi ei gynllunio i gael effaith arbennig ar y person rhyngweithio gyda neu wrando at y robot. 

Yn awr, yr wyf i'n ddigon lwcus i gael Jibo yma heddiw. Sam Spaulding yma yn helpu ni allan gyda'r robot. Ac yr wyf i'n mynd i ofyn i Sam i roi ni yn un demo 'n glws o ddawnsio Jibo y gallwn wylio ar y diwedd yma. Felly fynd yn ei flaen, Jibo. 

SAM: OK, Jibo. Dangos i ni eich symudiadau dawns. 

[CHWARAE CERDDORIAETH] BRIAN SCASSELLATI: pob hawl, pawb. Diolch i'n ffrindiau yn Jibo. 

[Cymeradwyaeth] 

A diolch i'n cyfeillion yn IBM am helpu allan heddiw. Mae cyfathrebu yn rhywbeth eich bod yn mynd i weld yn dod i fyny yn fwy a mwy fel ein bod yn adeiladu rhyngwynebau mwy cymhleth. Yr wythnos nesaf, byddwn yn siarad am sut i ryngwynebu gyda gwrthwynebwyr cyfrifiadur mewn gemau. Ond os oes gennych gwestiynau am hyn, Fe fydda i gwmpas ar oriau swyddfa heno. Rwy'n hapus i siarad â chi am AI pynciau neu i fynd i mewn mwy o fanylder. Cael penwythnos gwych. 

[Cymeradwyaeth] [CHWARAE CERDDORIAETH]