In veel gevallen binnen de lineaire algebra zijn we geïnteresseerd in het vinden van een minimale set van vectoren die de gehele vectorruimte kunnen genereren. Deze set van vectoren wordt een basis genoemd. Een basis voor een vectorruimte is een verzameling van lineair onafhankelijke vectoren die de ruimte op een unieke manier spannen. Dit concept is van fundamenteel belang bij het begrijpen van de structuur van vectorruimten en wordt in veel toepassingen in de wiskunde en natuurwetenschappen gebruikt.
Het begrip 'basis' kan geformaliseerd worden als volgt: een verzameling B={b1,b2,…,bk} is een basis van een vectorruimte X als en slechts als twee voorwaarden vervuld zijn: ten eerste, de verzameling B moet de ruimte X spannen, dat wil zeggen, elke vector in X moet geschreven kunnen worden als een lineaire combinatie van de vectoren in B; ten tweede, de vectoren in B moeten lineair onafhankelijk zijn, wat betekent dat geen enkele vector in B geschreven kan worden als een lineaire combinatie van de andere vectoren in B.
Een belangrijk begrip hierbij is lineaire onafhankelijkheid. Drie vectoren v1,v2,v3 zijn lineair onafhankelijk als de enige oplossing van de lineaire combinatie s1v1+s2v2+s3v3=0 de triviale oplossing is, namelijk s1=s2=s3=0. In veel gevallen helpt het gebruik van matrices bij het vaststellen van lineaire onafhankelijkheid of afhankelijkheid van een set vectoren. Als de matrix, die deze vectoren als kolommen heeft, van rang gelijk aan het aantal vectoren is, dan zijn de vectoren lineair onafhankelijk.
Een praktische toepassing van het vinden van een basis is het berekenen van de kolomruimte van een matrix. De kolomruimte van een matrix is de ruimte die wordt gespannen door de kolommen van die matrix. Als we een basis voor de kolomruimte willen vinden, moeten we de matrix reduceren naar haar echelonvorm en vervolgens de kolommen van de gereduceerde matrix identificeren die lineair onafhankelijk zijn. Deze kolommen vormen dan een basis voor de kolomruimte van de oorspronkelijke matrix. Dit proces maakt gebruik van rijoperaties en de theorie van lineaire systemen om de afhankelijke en onafhankelijke vectoren te onderscheiden.