RamonDijkstra / AI-FACT

FACT
0 stars 0 forks source link

LeNet architecture #1

Closed WardPennink closed 3 years ago

WardPennink commented 3 years ago

Hi @deZakelijke ,

Tijdens onze meeting vandaag hebben we besproken dat onze huidige architectuur van het LeNet model niet dezelfde is als die gebruikt wordt in onze paper en dat er een betere versie van het model zou moeten zijn. Wij hebben online gekeken naar de nieuwe versie, maar we hebben dit sterkere model niet kunnen vinden. Zou jij een linkje kunnen sturen naar de paper waarin dit model geïntroduceerd wordt?

Alvast bedankt!

deZakelijke commented 3 years ago

Ik heb deze paper die claimt 80% te halen op LeNet: https://arxiv.org/pdf/1811.07270.pdf

Deze repo lijkt met de originele setup op wat jullie halen en krijgt het dan op 75%: https://github.com/BIGBALLON/cifar-10-cnn

Als deze twee bronnen in de praktijk wat afwijken van de originele LeNet, denk ik dat de originele LeNet toch niet de 80% kan halen en is de claim uit de paper die jullie herproduceren niet correct. In dat geval zou ik er op focussen om het verschil tussen de 'originele' en complexe versie te herproduceren, ook al zijn beide waardes lager. Het punt is immers dat het complexe netwerk niet per se slechter wordt