2014年、8歳年下の一般女性と結婚した伊藤。彼女とは友達の結婚式の席で知り合ったといい、「会った瞬間にこの子だ」と直感。出会って3か月でゴールインしたという。
ここで安住紳一郎アナから「奥様が悩みがあるって聞いたんですけど」と水を向けられると、伊藤はネット上で、妻に離婚歴があるという噂が広まっていると告白。さらには「僕が暴れん坊な噂があるじゃないですか。それを許しているのも、(妻が)バツイチだからという噂(がネットで立っている)」と続けた。
この後、「でも本当は彼女は初婚で……」と誤りを正した伊藤。さらに妻が家の近くのコンビニに行った際、街行く人に「ご結婚されたんですよね? 2回目の結婚ですよね?」と言われたと明かし、「(そういう噂を立てられるのは)あんたの生き方が悪いのよ!」と、ひどくキレられたと語っていた。