まず、全事象の場合の数を求める。これは円順列なので、(n+3−1)!を同じものを含む順列の数で割ったものとなる。 全事象の数は n!3!(n+2)!=6n!(n+2)(n+1)n!=6(n+2)(n+1)。 次に、白玉がk+1個以上連続して並ばない場合の数を求める。 まず、3個の赤玉を円形に並べる。このとき、赤玉と赤玉の間には3つの場所ができる。
この3つの場所に白玉を並べる。それぞれの場所に並べる白玉の数をx1,x2,x3とする。 このとき、x1+x2+x3=nであり、0≤xi≤kである。 xiがk+1以上になることがない場合の数を求める。 まず、xi≥0の条件のみを考える。このとき、条件を満たす組み合わせは、重複組み合わせを用いて3Hn=(3−1n+3−1)=(2n+2)となる。 次に、x1≥k+1となる場合を考える。x1′=x1−(k+1)とおくと、x1′+x2+x3=n−(k+1)であり、x1′,x2,x3≥0となる。 このとき、組み合わせの数は3Hn−k−1=(3−1n−k−1+3−1)=(2n−k+1)となる。 同様に、x2≥k+1となる場合とx3≥k+1となる場合も(2n−k+1)となる。 次に、x1≥k+1かつx2≥k+1となる場合を考える。x1′=x1−(k+1),x2′=x2−(k+1)とおくと、x1′+x2′+x3=n−2(k+1)であり、x1′,x2′,x3≥0となる。 このとき、組み合わせの数は3Hn−2k−2=(3−1n−2k−2+3−1)=(2n−2k)となる。 同様に、x1≥k+1かつx3≥k+1となる場合と、x2≥k+1かつx3≥k+1となる場合も(2n−2k)となる。 x1≥k+1,x2≥k+1,x3≥k+1となる場合は、k<2nより、n−3(k+1)<n−3(2n+1)=−2n−3<0なので、ありえない。 したがって、求める場合の数は(2n+2)−3(2n−k+1)+3(2n−2k)となる。 求める確率は、(2n+2)(2n+2)−3(2n−k+1)+3(2n−2k)=1−(2n+2)3(2n−k+1)−3(2n−2k)となる。 (2n+2)=2(n+2)(n+1),(2n−k+1)=2(n−k+1)(n−k),(2n−2k)=2(n−2k)(n−2k−1)なので、 1−(n+2)(n+1)3[(n−k+1)(n−k)−(n−2k)(n−2k−1)]=1−(n+2)(n+1)3[n2−nk+n−nk+k2−k−(n2−2nk−n−2nk+4k2+2k)]=1−(n+2)(n+1)3[n2−2nk+n+k2−k−n2+4nk+n−4k2−2k]=1−(n+2)(n+1)3[2nk+2n−3k2−3k]=1−(n+2)(n+1)3[2n(k+1)−3k(k+1)]=1−(n+2)(n+1)3(2n−3k)(k+1)