Model ini dipublikasikan di HF papers pada 2020-03-30 dan disumbangkan ke Hugging Face Transformers pada 2022-04-07.

RegNet

Ikhtisar

Model RegNet diusulkan dalam Designing Network Design Spaces oleh Ilija Radosavovic, Raj Prateek Kosaraju, Ross Girshick, Kaiming He, Piotr Dollár.

Para penulis merancang ruang pencarian untuk melakukan Neural Architecture Search (NAS). Mereka memulai dari ruang pencarian berdimensi tinggi dan secara iteratif mengurangi ruang pencarian dengan menerapkan batasan secara empiris berdasarkan model berkinerja terbaik yang disampelkan oleh ruang pencarian saat ini.

Abstrak dari makalah tersebut adalah sebagai berikut:

Dalam karya ini, kami memperkenalkan paradigma desain jaringan baru. Tujuan kami adalah membantu memajukan pemahaman tentang desain jaringan dan menemukan prinsip desain yang dapat digeneralisasikan di berbagai pengaturan. Alih-alih berfokus pada merancang instance jaringan individual, kami merancang ruang desain jaringan yang memparametrisasi populasi jaringan. Proses keseluruhan ini analog dengan desain manual klasik untuk jaringan, tetapi ditingkatkan ke level ruang desain. Dengan menggunakan metodologi kami, kami mengeksplorasi aspek struktur dari desain jaringan dan sampai pada ruang desain berdimensi rendah yang terdiri dari jaringan sederhana dan teratur yang kami sebut RegNet. Inti dari parametrisasi RegNet ternyata sangat sederhana: lebar dan kedalaman jaringan yang baik dapat dijelaskan oleh fungsi linear terkuantisasi. Kami menganalisis ruang desain RegNet dan sampai pada temuan menarik yang tidak sesuai dengan praktik desain jaringan saat ini. Ruang desain RegNet menyediakan jaringan yang sederhana dan cepat yang bekerja dengan baik di berbagai rentang flop. Dengan pengaturan pelatihan dan flop yang sebanding, model RegNet melampaui model EfficientNet yang populer sambil menjadi hingga 5x lebih cepat pada GPU.

Model ini disumbangkan oleh Francesco. Kode aslinya dapat ditemukan di sini.

Model 10B besar dari Self-supervised Pretraining of Visual Features in the Wild, yang dilatih pada satu miliar gambar Instagram, tersedia di hub

Sumber daya

Daftar sumber resmi Hugging Face dan komunitas (ditandai dengan 🌎) untuk membantu Anda memulai dengan RegNet.

• RegNetForImageClassification didukung oleh notebook ini.
• Lihat juga: Panduan tugas klasifikasi gambar

Jika Anda tertarik untuk mengirimkan sumber daya agar disertakan di sini, silakan buka Pull Request dan kami akan meninjaunya! Sumber daya tersebut sebaiknya mendemonstrasikan sesuatu yang baru, bukan menduplikasi sumber daya yang sudah ada.

RegNetConfig

>>> from transformers import RegNetConfig, RegNetModel

>>> # Initializing a RegNet regnet-y-40 style configuration
>>> configuration = RegNetConfig()
>>> # Initializing a model from the regnet-y-40 style configuration
>>> model = RegNetModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config

RegNetModel

RegNetForImageClassification

>>> from transformers import AutoImageProcessor, RegNetForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("facebook/regnet-y-040")
>>> model = RegNetForImageClassification.from_pretrained("facebook/regnet-y-040")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...