Online Learning, modelin sürekli olarak yeni veri üzerinde güncellendiği veya eğitildiği bir öğrenme yöntemidir. Offline Learning’te ise model bir veri seti üzerinde eğitilir ve eğitildikten sonra sabit kalır. Yeni veri geldiğinde, model güncellenmez ve bu nedenle yeni bilgileri öğrenme yeteneği sınırlıdır. Bu öğrenme yöntemi sayesinde modelin zaman içinde değişen ve gelişen bir çevreyle başa çıkabilmesi sağlanır. İki kategoriye ayrılır:
- Sürekli Öğrenme (Continual Learning)
- Artımlı Öğrenme (Incremental Learning)
Sürekli Öğrenme (Continual Learning), bir modelin zaman içinde gelen yeni veri ile sürekli olarak güncellenerek öğrenmeye devam ettiği bir yöntemdir. Model başlangıçta öğrendiği bilgileri sürekli olarak genişletir ve günceller. Model, yeni veriyi öğrenirken önceki bilgileri unutma eğilimindedir. Bu bilgi çakışmasına (catastrophic forgetting) neden olabilir. Bunu önlemek için ağ yeniden kullanılır (network reuse). Önceki eğitilmiş ağ, yeni veri üzerinde eğitim yapmak için kullanılır.
Artımlı Öğrenme (Incremental Learning), bir modelin önceki eğitimin genişletmek veya yeni sınıflar ekleyerek güncellenmesine dayanır.