{"id":645,"date":"2024-11-17T19:16:15","date_gmt":"2024-11-17T18:16:15","guid":{"rendered":"https:\/\/ekoninfochecker.efri.uniri.hr\/?p=645"},"modified":"2024-11-20T20:43:50","modified_gmt":"2024-11-20T20:43:50","slug":"bigru-model","status":"publish","type":"post","link":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/2024\/11\/17\/bigru-model\/","title":{"rendered":"BIGRU model"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">&nbsp;BiGRU, ili Bidirectional Gated Recurrent Unit, je vrsta modela za obradu sekvencijalnih podataka, posebno u\u010dinkovita za zadatke kategorizacije teksta. Ovaj model koristi arhitekturu neuronske mre\u017ee koja omogu\u0107ava bolje razumijevanje konteksta i semantike u tekstualnim podacima.&nbsp;<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">BIGRU<\/h4>\n\n\n\n<p class=\"wp-block-paragraph\">BiGRU model koristi se za obradu teksta u kojem je potrebno uzeti u obzir informacije iz oba smjera teksta \u2013 s lijeva na desno i s desna na lijevo. To omogu\u0107ava modelu da bolje razumije kontekst i nijanse zna\u010denja koje se mogu izgubiti u tradicionalnim, jednosmjernim modelima. GRU (Gated Recurrent Unit) je vrsta rekurentne neuronske mre\u017ee (RNN) koja efikasno rje\u0161ava probleme s nestaju\u0107im gradijentom, \u0161to je \u010dest problem kod standardnih RNN modela. BiGRU kombinira dva GRU modela koji rade u suprotnim smjerovima, integriraju\u0107i informacije koje dolaze prije i poslije odre\u0111ene to\u010dke u tekstu.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dvosmjerna Obrada: U BiGRU, jedan GRU model obra\u0111uje tekst od po\u010detka prema kraju, dok drugi ide od kraja prema po\u010detku. Ova dvosmjerna obrada omogu\u0107ava modelu da sakupi kontekstualne informacije iz cijelog teksta, pru\u017eaju\u0107i bogatiji i detaljniji uvid u semantiku.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">GRU Jedinice: Svaka GRU jedinica unutar modela ima ulogu u reguliranju protoka informacija. To uklju\u010duje odlu\u010divanje koje \u0107e informacije biti zadr\u017eane, a koje zaboravljene kroz vrijeme, \u0161to omogu\u0107uje modelu da se prilagodi i fokusira na relevantne dijelove teksta.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Kombinacija Informacija: Nakon obrade, informacije iz oba smjera se kombiniraju, \u0161to daje cjelovitu sliku sadr\u017eaja teksta. Ova integrirana informacija koristi se za predikciju kategorije teksta.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">Primjene BiGRU u Kategorizaciji Teksta<\/h4>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Analiza osje\u0107aja:<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">BiGRU je izuzetno koristan u analizi sentimenta gdje je va\u017eno razumjeti kontekstualne nijanse izra\u017eavanja emocija u tekstu.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Klasifikacija Dokumenata:<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">U automatiziranom razvrstavanju dokumenata, BiGRU mo\u017ee efikasno kategorizirati tekstove temeljene na njihovom sadr\u017eaju i stilu pisanja.<br><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Detekcija Namjere:<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">U chatbot aplikacijama, BiGRU modeli poma\u017eu u razumijevanju namjera korisnika temeljem upita, omogu\u0107avaju\u0107i preciznije odgovore.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\"><em><strong>BiGRU modeli su postali popularni u obradi prirodnih jezika zbog svoje sposobnosti da to\u010dno interpretiraju i kategoriziraju tekstove na temelju kontekstualnog zna\u010denja. Njihova dvosmjerna struktura i sposobnost upravljanja informacijama \u010dine ih idealnim za slo\u017eene zadatke obrade teksta gdje je kontekst klju\u010dan za to\u010dno razumijevanje i klasifikaciju.<\/strong><\/em><\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">Rezultati obuke modela BIGRU (Bidirectional Gated Recurrent Unit) uklju\u010duju nekoliko klju\u010dnih metrika koje pokazuju kako se model pona\u0161a na trening skupu podataka i na skupu podataka za validaciju.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">Rezultati:<\/h4>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Loss (Gubitak):<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ova metrika pokazuje koliko dobro model predvi\u0111a to\u010dne izlaze. Manji gubitak ukazuje na bolje predvi\u0111anje. Za ovaj model, gubitak na trening setu je vrlo nizak (0.0041), \u0161to ukazuje na to da model vrlo precizno prati o\u010dekivane rezultate na trening setu.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Binary Accuracy (Binarna To\u010dnost):<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Binarna to\u010dnost mjeri postotak to\u010dnih predikcija u odnosu na ukupan broj uzoraka. Za trening set, to\u010dnost je izuzetno visoka (0.9997 ili 99.97%), \u0161to pokazuje da model gotovo savr\u0161eno klasificira trening podatke.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Val_loss (Gubitak na Validaciji):<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Gubitak na validacijskom setu je zna\u010dajno ve\u0107i (0.1364) u usporedbi s gubitkom na trening setu. To mo\u017ee ukazivati na to da model mo\u017eda dobro radi na trening podacima, ali kada se suo\u010di s novim, prije nevi\u0111enim podacima (kao \u0161to su oni u validacijskom setu), njegova sposobnost predvi\u0111anja nije jednako efikasna. Ovaj ve\u0107i gubitak na validaciji mo\u017ee biti znak preprilago\u0111avanja (overfitting), gdje model nau\u010di specifi\u010dnosti trening podataka na ra\u010dun sposobnosti generalizacije.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Val_binary_accuracy (Binarna To\u010dnost na Validaciji):<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">To\u010dnost na validacijskom setu je tako\u0111er visoka (0.9659 ili 96.59%), ali ne toliko kao na trening setu. Iako je ovo jo\u0161 uvijek vrlo dobar rezultat, pad to\u010dnosti izme\u0111u treninga i validacije sugerira da model mo\u017eda nije potpuno robustan na varijacije u podacima koje nije vidio tijekom treninga.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Iako rezultati pokazuju da je BIGRU model iznimno precizan na trening setu, razlika u gubitku izme\u0111u treninga i validacije sugerira potencijalne probleme s preprilago\u0111avanjem.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Rezultati&nbsp; validacije su:<\/p>\n\n\n\n<figure class=\"wp-block-table is-style-stripes has-normal-font-size\"><table class=\"has-fixed-layout\"><thead><tr><th class=\"has-text-align-center\" data-align=\"center\">Category<\/th><th>Precision<\/th><th>Recall<\/th><th>F1-Score<\/th><th>Support<\/th><\/tr><\/thead><tbody><tr><td class=\"has-text-align-center\" data-align=\"center\">Pristranost<\/td><td>0.72<\/td><td>0.42<\/td><td>0.53<\/td><td>113<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Mamac<\/td><td>0.89<\/td><td>0.83<\/td><td>0.86<\/td><td>144<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Zavjera<\/td><td>0.81<\/td><td>0.55<\/td><td>0.65<\/td><td>88<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">La\u017ena vijest<\/td><td>0.94<\/td><td>0.75<\/td><td>0.83<\/td><td>114<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Mr\u017enja<\/td><td>0.89<\/td><td>0.72<\/td><td>0.79<\/td><td>113<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Pseudoznanost<\/td><td>0.88<\/td><td>0.43<\/td><td>0.58<\/td><td>49<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Politika<\/td><td>0.70<\/td><td>0.53<\/td><td>0.60<\/td><td>99<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Pouzdano<\/td><td>0.98<\/td><td>0.94<\/td><td>0.96<\/td><td>95<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Glasina<\/td><td>0.92<\/td><td>0.79<\/td><td>0.85<\/td><td>72<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Satira<\/td><td>0.77<\/td><td>0.59<\/td><td>0.67<\/td><td>92<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Nepoznato<\/td><td>0.97<\/td><td>0.73<\/td><td>0.84<\/td><td>98<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Nepouzdano<\/td><td>1.00<\/td><td>0.83<\/td><td>0.91<\/td><td>84<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Micro avg<\/td><td>0.88<\/td><td>0.69<\/td><td>0.77<\/td><td>1161<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Macro avg<\/td><td>0.87<\/td><td>0.67<\/td><td>0.76<\/td><td>1161<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Weighted avg<\/td><td>0.87<\/td><td>0.69<\/td><td>0.76<\/td><td>1161<\/td><\/tr><tr><td class=\"has-text-align-center\" data-align=\"center\">Samples avg<\/td><td>0.68<\/td><td>0.69<\/td><td>0.68<\/td><td>1161<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Rezultati treninga modela AI BIGRU za razli\u010dite kategorije pokazuju zanimljiv uvid u sposobnost modela da prepoznaje i klasificira sadr\u017eaj prema specifi\u010dnim kategorijama kao \u0161to su pristranost, mamac, zavjera, i druge. Detaljna analiza pokazatelja to\u010dnosti (precision), odziva (recall), F1 ocjene (f1-score) i podr\u0161ke (support) za svaku kategoriju pru\u017ea korisne informacije za evaluaciju performansi modela.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Kategorija \u201cPristranost\u201d ima relativno nisku F1 ocjenu od 0.53, s to\u010dno\u0161\u0107u od 0.72 i odzivom od 0.42, \u0161to ukazuje na to da model mo\u017eda ima pote\u0161ko\u0107a s dosljednim prepoznavanjem pristranog sadr\u017eaja. S druge strane, \u201cPouzdano\u201d ima visoku F1 ocjenu od 0.96, s impresivnom to\u010dno\u0161\u0107u od 0.98 i odzivom od 0.94, \u0161to pokazuje da model vrlo dobro prepoznaje pouzdane informacije.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Za kategoriju \u201cMamac\u201d, model pokazuje visoku to\u010dnost i relativno visok odziv, rezultiraju\u0107i F1 ocjenom od 0.86. To sugerira da model efikasno identificira senzacionalisti\u010dke ili zavaravaju\u0107e naslove. Kategorija \u201cLa\u017ena vijest\u201d tako\u0111er ima visoku to\u010dnost i solidan odziv, \u0161to dovodi do F1 ocjene od 0.83.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Me\u0111utim, kategorije poput \u201cPseudoznanost\u201d i \u201cPolitika\u201d imaju ni\u017ee F1 ocjene (0.58 i 0.60, respektivno), \u0161to mo\u017ee zna\u010diti da model ima pote\u0161ko\u0107a s identifikacijom specifi\u010dnih aspekata ovih kategorija ili da u podacima postoji manjak primjera za u\u010denje.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ukupno gledano, s mikro prosjekom od 0.77 i makro prosjekom od 0.76 za F1 ocjenu, BIGRU model pokazuje dobre rezultate, ali i prostor za pobolj\u0161anje, osobito u kategorijama s ni\u017eim odzivom i to\u010dno\u0161\u0107u.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">ROC_AUC<\/h4>\n\n\n\n<p class=\"wp-block-paragraph\">Rezultat ROC-AUC (povr\u0161ina ispod krivulje operativnih karakteristika prijemnika) od 0.945916 za trening BIGRU (Bidirectional Gated Recurrent Unit) modela predstavlja vrlo visoku vrijednost. Ovaj rezultat nam govori koliko je model sposoban razlikovati izme\u0111u klasa, u ovom slu\u010daju, vjerojatno izme\u0111u pozitivnih i negativnih primjera u nekom binarnom klasifikacijskom problemu.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">&nbsp;<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">ROC-AUC je metrika koja se koristi za ocjenu performansi klasifikacijskih modela pri svim mogu\u0107im pragovima klasifikacije. Idealna vrijednost ROC-AUC je 1.0, \u0161to zna\u010di da model savr\u0161eno razlikuje izme\u0111u klasa. S druge strane, vrijednost od 0.5 bi zna\u010dila da model ne radi bolje od slu\u010dajnog poga\u0111anja. Vrijednost od 0.945916 upu\u0107uje na to da model vrlo dobro razlikuje izme\u0111u klasa, s vrlo malo preklapanja izme\u0111u distribucija ocjena koje model dodjeljuje stvarnim pozitivnim i negativnim primjerima.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\">Implikacije visokog ROC-AUC rezultata<\/h4>\n\n\n\n<p class=\"wp-block-paragraph\">Visoki ROC-AUC rezultat kao \u0161to je 0.945916 sugerira da model ima sljede\u0107e karakteristike:<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li class=\"has-normal-font-size\"><strong>Visoka osjetljivost (sensitivity)<\/strong>: Model je sposoban identificirati ve\u0107inu stvarnih pozitivnih primjera, \u0161to zna\u010di da ima visoku stopu pravih pozitivnih rezultata.<\/li>\n\n\n\n<li class=\"has-normal-font-size\"><strong>Visoka specifi\u010dnost (specificity)<\/strong>: Model tako\u0111er to\u010dno odbacuje ve\u0107inu stvarnih negativnih primjera, \u0161to zna\u010di da je stopa la\u017enih pozitiva niska.<\/li>\n<\/ol>\n\n\n\n<p class=\"wp-block-paragraph\">ROC-AUC rezultat od 0.945916 za BIGRU model ukazuje na iznimno dobre performanse u razlikovanju izme\u0111u pozitivnih i negativnih primjera u zadatku klasifikacije. Ova metrika omogu\u0107uje pouzdano predvi\u0111anje modela, \u010dine\u0107i ga korisnim alatom u aplikacijama gdje je to\u010dnost kriti\u010dna<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n","protected":false},"excerpt":{"rendered":"<p>&nbsp;BiGRU, ili Bidirectional Gated Recurrent Unit, je vrsta modela za obradu sekvencijalnih podataka, posebno u\u010dinkovita za zadatke kategorizacije teksta. Ovaj model koristi arhitekturu neuronske mre\u017ee koja omogu\u0107ava bolje razumijevanje konteksta i semantike u tekstualnim podacima.&nbsp; BIGRU BiGRU model koristi se za obradu teksta u kojem je potrebno uzeti u obzir informacije iz oba smjera teksta [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":1214,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[92],"tags":[],"class_list":["post-645","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-provjera"],"_links":{"self":[{"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/posts\/645","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/comments?post=645"}],"version-history":[{"count":1,"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/posts\/645\/revisions"}],"predecessor-version":[{"id":1227,"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/posts\/645\/revisions\/1227"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/media\/1214"}],"wp:attachment":[{"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/media?parent=645"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/categories?post=645"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ekoninfochecker.efri.uniri.hr\/index.php\/wp-json\/wp\/v2\/tags?post=645"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}