Eğitim için sinir ağları verileri gruplar halinde alma eğilimindedir. Şu ana kadar örnek girdi verileri, özellik kümesi adı verilen çeşitli özelliklerin yalnızca bir örneğinden (veya gözleminden) oluşuyordu:

inputs = [1, 2, 3, 2.5]

Burada [1, 2, 3, 2.5] verileri bir şekilde anlamlı ve arzu ettiğimiz çıktıyı açıklayıcıdır.  Her sayının farklı bir sensörden gelen bir değer olarak aynı anda olduğunu düşünün. Bu değerlerin her biri bir özellik gözlem verisidir ve birlikte gözlem veya en yaygın olarak örnek olarak da adlandırılan bir özellik kümesi örneğini oluştururlar.

Genellikle sinir ağları iki nedenden dolayı aynı anda çok sayıda örnek almayı bekler. Bunun bir nedeni, paralel işlemede gruplar halinde eğitimin daha hızlı olmasıdır, diğer neden ise, grupların eğitim sırasında genelleştirmeye yardımcı olmasıdır. Her seferinde bir örnek üzerinde uyum sağlarsanız (bir eğitim sürecinin bir adımını gerçekleştirirseniz), tüm veri kümesine uyan ağırlıklar ve önyargılarda yavaş yavaş genel ayarlamalar yapmak yerine, büyük olasılıkla o bireysel örneğe uymaya devam edersiniz. Gruplar halinde uygulama veya eğitim, ağırlıklarda ve önyargılarda daha anlamlı değişiklikler yapma şansınızı artırır.

Python'da ve bizim durumumuzda listelerin, bir numunenin yanı sıra bir dizi gözlemi oluşturan birden fazla numuneyi tutmak için yararlı kaplar olduğunu hatırlayın. Her biri kendi örneğini içeren bir grup gözlemin böyle bir örneği şöyle görünür:

inputs = [[1, 2, 3, 2.5], [2, 5, -1, 2], [-1.5, 2.7, 3.3, -0.8]]

Bu liste listesi homolog olduğu için bir dizi haline getirilebilir. Bu daha büyük listedeki her "listenin" bir özellik kümesini temsil eden bir örnek olduğunu unutmayın.

[1, 2, 3, 2,5], [2, 5, -1, 2] ve [-1,5, 2,7, 3,3, -0,8]'in tümü örnektir ve özellik kümesi örnekleri veya gözlemleri olarak da anılırlar. Artık elimizde bir girdiler matrisi ve bir ağırlıklar matrisi var ve bunların üzerinde bir şekilde nokta çarpımı yapmamız gerekiyor ama sonuç nasıl ve ne olacak? Benzer şekilde, bir matris ve bir vektör üzerinde nokta çarpım uyguladığımızda, matrisi bir vektör listesi olarak ele aldık ve sonuçta bir nokta çarpım listesi elde ettik. Bu örnekte, her iki matrisi de vektör listeleri olarak yönetmemiz ve bunların hepsinde tüm kombinasyonlarda nokta çarpımlar gerçekleştirmemiz gerekiyor; bu da bir çıktı listeleri listesi veya bir matris elde etmemizi sağlıyor; bu işleme matris çarpımı denir.