In den offiziellen Referenzen steht dazu zwar noch nichts, aber ab TYPO3 4.4 kann man ganz einfach und unkompliziert seinen doctype auf HTML5 umstellen. Im Setup Eurer Seite einfach folgendes eintragen:

config.doctype = html_5

Achtung: Seit der Version 4.7 ist obige Anweisung nicht mehr aktuell. Um von TYPO3 4.7 generierte Seiten mit dem »HTML5-doctype« zu versehen braucht es nun folgende Anweisung:

config.doctype = html5