Back to search

National and Kapodistrian University of Athens

Benchmarking Activation Functions of Deep Neural Networks for Protein Secondary Structure Prediction Using the Stuttgart Neural Network Simulator

Abstract

dc:description

Οι πρωτεΐνες, μακρομόρια που αποτελούνται από την αλληλουχία αμινοξέων, η οποία προκύπτει από την μετάφραση του RNΑ, συνιστούν τη βάση όλων των βιολογικών διεργασιών που λαμβάνουν χώρα εντός του ανθρώπινου σώματος. Οι αλυσίδες αυτές των αμινοξέων, καθώς εκτείνονται στον τρισδιάστατο χώρο, τείνουν να λαμβάνουν χαρακτηριστικές δομές οι οποίες έχουν συνδεθεί με τη λειτουργία τους. Αυτό δύναται να υποστηριχθεί από την λειτουργική ομοιότητα μεταξύ όμοιων δομικά πρωτεϊνών. Τεχνικές ικανές να προβλέψουν με ακρίβεια τη δομή των πρωτεϊνών, με δεδομένη την αλληλουχία των αμινοξέων, έχουν τη δυνατότητα να αποτελέσουν ένα ισχυρό εργαλείο στην ιατρική καθώς και σε πολλούς άλλους βιολογικούς και βιοτεχνολογικούς κλάδους. Το γεγονός αυτό έχει οδηγήσει στην ανάπτυξη νέων μεθοδολογιών ή στην εκμετάλλευση τεχνολογικών τάσεων που έχουν ήδη αποδειχθεί αποτελεσματικές σε άλλες επιστημονικές εφαρμογές, προκειμένου να επιτευχθεί ικανότητα ασφαλούς πρόβλεψης μη χαρακτηρισμένων δομικά πρωτεϊνών. Μια επιστημονική προσέγγιση η οποία φαίνεται να έχει τη δυνατότητα να επιτύχει σε αυτό το εγχείρημα, είναι η χρήση νευρωνικών δικτύων (Neural Networks – NN), αλγορίθμων δηλαδή που έχουν την ικανότητα να γράφουν οι ίδιοι τις οδηγίες πρόβλεψης, μέσω εκμάθησης της αναγνώρισης μοτίβων εντός δεδομένων από ήδη γνωστά παραδείγματα σε ένα ελεγχόμενο σενάριο. Οι εμπνευσμένες από τον εγκέφαλο αρχιτεκτονικές αυτές παράγουν σταθερά αποτελέσματα σε πλήθος επιστημονικών εφαρμογών, όπως είναι η όραση υπολογιστών, με την εφαρμογή τους να δοκιμάζεται ήδη σε ένα πλήθος βιομηχανιών. Στην παρούσα μελέτη, το λογισμικό Stuttgart Neural Network Simulator (SNNS), ένας προσομοιωτής νευρωνικών δικτύων, χρησιμοποιήθηκε για τη δημιουργία, εκπαίδευση και έλεγχο ως προς την ακρίβεια, νευρωνικών δικτύων ρηχής (shallow) και βαθιάς (deep) αρχιτεκτονικής, αποτελούμενης από ένα, δύο και τρία εσωτερικά στρώματα (hidden layers) με ποικίλους συνδυασμούς αριθμών κόμβων (nodes) για το κάθε στρώμα. Ο στόχος ήταν η σύγκριση των επιδόσεών τους ως προς την ακρίβεια πρόβλεψης μεταξύ ιδίων αρχιτεκτονικών αλλά διαφορετικών συναρτήσεων ενεργοποίησης (activation functions). Για το λόγο αυτό, έλαβε χώρα η απαιτούμενη επέκταση του SNNS προκειμένου να εμπεριέχει τις προς μελέτη συναρτήσεις. Οι συναρτήσεις ενεργοποίησης που χρησιμοποιήθηκαν ήταν η Logistic, η Rectified Linear Unit (ReLU) και η Leaky Rectified Linear Unit (LReLU), με τα ικανότερα προβλεπτικά δίκτυα να είναι αυτά που χρησιμοποιούσαν την ReLU για ένα επίπεδο βάθους και υψηλούς αριθμούς μεταβλητών, γεγονός που επιβεβαίωσε την αρχική μας υπόθεση που ήθελε τα δίκτυα που χρησιμοποιούν τη ReLU να ξεπερνούν σε απόδοση τα υπόλοιπα. Το νευρωνικό δίκτυο με την καλύτερη απόδοση συνολικά, αποτελούταν από ένα επίπεδο βάθους με 140 κόμβους που χρησιμοποιούσε την ReLU, επιτυγχάνοντας ακρίβεια 67.85% σε ένα νέο test set.

Author and committee

dc:creator, dc:contributor.*
Authors dc:creator
  • Φούκας Γεώργιος-Ρωμανός
  • Foukas Georgios-Romanos

Subjects

dc:subject × 2

Rights

Language dc:language
English

Identifiers

dc:identifier.*
Identifier
uoadl:2942651

Chain of custody

source
Harvested from
National and Kapodistrian University of Athens
Base URL
pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh
Last updated
2026-11-19
Source record
OAI-PMH GetRecord
citation

Φούκας Γεώργιος-Ρωμανός; Foukas Georgios-Romanos. Benchmarking Activation Functions of Deep Neural Networks for Protein Secondary Structure Prediction Using the Stuttgart Neural Network Simulator. 2021. https://pergamos.lib.uoa.gr/uoa/dl/object/2942651