HTML5のベースには、HTML4だけでなく、XHTMLやDOMがあります。
ブラウザベンダ各社は1998年にDOM Level 1を2000~2003年には、DOM Level 2 Core と DOM Level 2 HTMLをHTML開発におけるAPIとして仕様化(その後低迷、DOM Level 3の完成前にワーキンググループは解散)しました。
当時、XMLアプリケーションによるHTML解析及びアクセスには既にDOMまたはSAXが使われていました。
この過程でその後のXML周辺技術の進化と急速な普及への期待と共にXMLによるHTML解析、変換のしやすさを意図した入出力媒体としてXHTMLが生まれ、XHTML1.0、XHTML1.1が後に勧告となります。
その後、次世代WebフォームとしてHTMLに置き換わる技術ではなく、主にブログで利用されることになるRSSやAtomなどのようにXMLを利用したHTML周りの拡張が実現すると、これはいけるという風潮が再燃したかに見えました。
そんな折、Opera Softwareが著作権を持つXForms 1.0という多くの機能を提供するHTML4拡張技術の草案が一般に公開され、利用されており、その後、W3CのメンバであったMozillaとOperaがW3Cに草案の提案を提出したものの、HTML4やXHTML1とは互換性のないXMLベースのXHTML2.0の策定を続ける為に(未来のウェブの進化として見据える方向性が違うという理由で)拒否しましたが、そのXHTML2.0は、様々な観点からその後策定中止に追い込まれます。
一方、提案は通らなかったもののMozillaとOperaのアイディアにAppleも同調し、『WHATWG』というワーキンググループを発足、http://www.whatwg.org/というサイトを公開、それまで分割されていたHTML4/XHTML1/DOM2 HTMLをベースにHTML5として策定作業を進め、2006年ようやくW3Cが参加に関心を示し、2007年WHATWGと共同開発、WHATWGサイト上でのライセンスより緩く限定的なライセンス下でW3Cの著作物としてWHATWG(先のブラウザベンダ各社)が許可し、以後HTML5の策定が進められたという経緯があります。
ちなみにWHATWGというネーミングは絶妙な言葉遊びで下記の両方の意味を表す掛け言葉になっているとの事。
What Working Group ?
Web Hypertext Application Technology Working Group
HTML5は、HTML4/XHTML1/DOM2 HTMLがベースとは言うもののHTML4とXHTML1は、要素や属性そのものは、ほぼ同じでありながら一部XML仕様上の文法規則等が同一ではないので従前のウェブ環境はそのままに円滑に移行する為には、実質HTML5とXHTMLについてはバージョンを含めた名称がXHTML5となるか否かは別としてHTML5に対応したXHTMLが生まれてしまうことは不可避と思われます。