Die Verantwortlichkeit für das Bildungswesen in Deutschland wird durch die föderative Staatsstruktur bestimmt. Soweit das Grundgesetz nicht dem Bund Gesetzgebungsbefugnisse verleiht, haben die Länder das Recht der Gesetzgebung, das im Bereich des Bildungswesens den Schulbereich, den Hochschulbereich, die Erwachsenenbildung und die Weiterbildung umfasst; die Verwaltung auf diesen Gebieten ist nahezu ausschließlich Angelegenheit der Länder. Detaillierte Vorschriften sind in den Landesverfassungen und im Rahmen von Landesgesetzen zu vorschulischen Einrichtungen, zum Schulwesen und Hochschulwesen, zur Erwachsenenbildung und zur Weiterbildung festgelegt. Auch die Zuständigkeit für das Laufbahnrecht, die Besoldung und Versorgung der Landesbeamtinnen und -beamten (z. B. Lehrkräfte, Hochschullehrerinnen und Hochschullehrer) liegt bei den Ländern.

Der Umfang der Kompetenzen des Bundes im Bildungswesen ist im Grundgesetz festgelegt. Danach ist der Bund vorrangig für die Regelungen in folgenden Bereichen von Bildung, Wissenschaft und Forschung zuständig:

• Außerschulische berufliche Aus- und Weiterbildung
• Hochschulzulassung und Hochschulabschlüsse (hier können die Länder abweichende gesetzliche Regelungen treffen)
• Ausbildungsförderung
• Förderung der wissenschaftlichen Forschung und der technologischen Entwicklung 
• Kinder- und Jugendhilfe (insbesondere Förderung von Kindern in Tageseinrichtungen und in Kindertagespflege)
• Schutz der Teilnehmerinnen und Teilnehmer am Fernunterricht
• Berufszulassung für Juristen
• Berufszulassung für Heil- und Heilhilfsberufe
• Maßnahmen zur Arbeitsförderung; Arbeitsmarkt- und Berufsforschung

Der Bund verfügt außerdem über die Gesetzgebungskompetenz für die Statusrechte und -pflichten der Beamtinnen und Beamten sowie für die Gesetzgebung über die auswärtigen Angelegenheiten.

Das Grundgesetz sieht neben der oben beschriebenen Aufgabenabgrenzung auch Regelungen über das Zusammenwirken von Bund und Ländern im Rahmen der so genannten Gemeinschaftsaufgaben vor. So können Bund und Länder gemäß Artikel 91b Absatz 1 Grundgesetz auf Grund von Vereinbarungen in Fällen überregionaler Bedeutung bei der Förderung von Wissenschaft, Forschung und Lehre zusammenwirken. Des Weiteren können Bund und Länder gemäß Artikel 91b Absatz 2 Grundgesetz aufgrund von Vereinbarungen zur Feststellung der Leistungsfähigkeit des Bildungswesens im internationalen Vergleich und bei diesbezüglichen Berichten und Empfehlungen zusammenwirken. Außerdem können Bund und Länder gemäß Artikel 91c bei der Planung, der Errichtung und dem Betrieb der für ihre Aufgabenerfüllung benötigten informationstechnischen Systeme zusammenwirken.

Im April 2019 ist eine Änderung von Artikel 104c des Grundgesetzes in Kraft getreten, die es dem Bund ermöglicht, den Ländern Finanzhilfen für gesamtstaatlich bedeutsame Investitionen der Länder und Gemeinden zur Steigerung der Leistungsfähigkeit der kommunalen Bildungsinfrastruktur zu gewähren. Der neue Artikel 104c ist die verfassungsrechtliche Grundlage für den DigitalPakt Schule 2019–2024, mit dem Bund und Länder unter anderem das Ziel verfolgen, zukunftstaugliche digitale Bildungsinfrastrukturen zu schaffen. 

Nähere Informationen zum Zusammenwirken von Bund und Ländern im Bildungsbereich sind dem Kapitel über Verwaltung und Steuerung auf nationaler und/oder regionaler Ebene zu entnehmen.