Elkarazle, K.; Raman, V.; Then, P. Facial Age Estimation Using

Built-from-scratch models
: One way to extract facial features with deep learning is to
develop a deep learning algorithm from scratch. In this method, we can define a con-
volutional neural network that may consist of several convolutional layers, dropout
layers, activation functions, pooling layers, and fully connected layers. The convolu-
tional and pooling layers construct the feature maps, and we use dropout layers to
avoid overfitting by turning off randomly selected neurons. The fully connected net-
work receives the extracted features and learns a mapping function. Using a network
from scratch could be computationally expensive and time-consuming as we will
have to keep fine-tuning the parameters, and the network could grow exponentially.
2.
Pre-trained models
: Pre-trained models are time and space-efficient alternatives
to the deep learning models built from scratch. We use and fine-tune a network
that has been trained on a more complicated task to extract features from an image.
The model’s hyperparameters are usually fine-tuned and adjusted. VGG-16 [
42
],
VGG-19 [
43
], ResNet50 [
44
], and AlexNet [
45
] are examples of pre-trained models
that have shown state-of-the-art accuracies in facial recognition tasks, including age
estimation. Table
3
presents some of the well-known neural networks used to build
age estimation models.
Table 3.
Examples of commonly used pre-trained networks.
Network Name
Number of Layers
Number of
Parameters (Millions)
Size (MB)
Default Input Size
(Height
×
Width)
VGG16
16
144
515
224
×
224
VGG19
19
144
535
224
×
224
ResNet50
50
25.6
50
227
×
227
Xception
71
22.9
85
299
×
299
AlexNet
8
61
227
227
×
227
GoogLeNet
22
7
27
224
×
224
MobileNetV2
53
3.5
13
224
×
224