Renuncia a herencia

Mi suegra viuda falleció hace poco y tiene dos hijos,as como únicos herederos. Ella tiene el 50% de una vivienda y algo de dinero en cuenta de un banco.
Uno de los dos herederos quiere renunciar a su parte de la vivienda en favor del otro hermano. Antes del reparto de esta herencia cada hermano tiene el 25% en propiedad de la casa( reparto de la herencia de su padre hace 20 años), el otro 50% es de la persona fallecida.
 Según el testamento de la viuda, al hermano que renuncia a la misma le corresponde 1/6 de la herencia y al otro 5/6, lo que quiere decir que la propiedad final del hijo que quiere renunciar   a la casa seria 1/4+1/12= 1/3, o sea el 33,33%, después del reparto de la herencia en escritura publica.
Se puede hacer reparto  de herencia y renuncia del hermano en favor del otro en la misma escritura?
Cual es la forma mas ventajosa fiscalmente y la mas sencilla( somos de Madrid), donación, venta, extinción de condominio,otras?
Se puede hacer todo en el mismo acto con el notario, aunque se necesiten dos escrituras?

Una aclaración antes de nada, las renuncias a herencia son totales, no pueden ser parciales, es decir, no puede ser te dejo la parte de la vivienda pero sí acepto la parte del dinero. 

Dicho lo cual, también tienes que plantearte si el objetivo final es que uno de los hermanos se quede con el 100% de la casa. Ya que si esto es así, estaría habiendo una transmisión también del porcentaje previo que ya tenía por fallecimiento del padre.

Una vez dicho esto las diferentes figuras que planteas:

    http://notarialuisprados.com/el-impuesto-de-sucesiones-en-madrid-guia-rapida/ 
    Después de esto, tienes que ver qué haces con el otro porcentaje que tienes en dominio previo, que si lo donas, también tributaría según los porcentajes del link.

No existe una fórmula mágica, ya que todo depende de qué es lo que queréis en concreto, si que la persona que recibe la vivienda la reciba al 100% o no, si no queréis que pague por la compensación, etc.

Saludos.

La idea es que se quede con el 100% de la vivienda uno de los hermanos. 
La compensación por la disolución del condominio a a valor de escrituras es obligatoria? Si es así, parece que la solución menos gravosa para el que recibe el bien sería la donación. 

Sí es obligatoria, ya que en caso contrario si lo piensas lo que se está produciendo es una donación.

Vale, entonces veo que nos interesaría una donación. 
Se podría realizar la aceptación de la herencia y posterior donación en una misma escritura notarial? 
O en dos escrituras, pero en el mismo acto notarial? 

El realizar los dos en una misma escritura notarial os ahorraría costes, pero no se si para una adjudicación de herencia puedes incluir la donación en la misma.
Lo que si está claro es que puedes hacer las dos escrituras en un mismo acto notarial.

Si la cantidad de dinero es baja, sale a cuenta que renuncie a todo, la donación posterior será menor, en vez de 1/3 de la casa, será de 1/4.
Aún con una bonificación de cuota del 15% entre hermanos, creo que saldrá una buena cantidad a pagar.
En una misma escritura se pueden hacer muchas cosas, no hay problema en hacerlo todo en la misma.

Lo que no tengo claro son los impuestos que hay que pagar por la renuncia de la herencia y también los impuestos de la donación posterior , tanto del donante como del donatario.

En la renuncia, no hay diferencia con la sucesion. Si no se ha pagado el impuesto,  se calcula en función de lo que recibe cada uno, el que renuncia no paga nada y el otro pagará por toda la herencia. 
La donación es otra cosa, aún estando bonificada, saldrá a pagar cierta cantidad no despreciable 

Pero además del impuesto de donaciones, el donante paga IRPF al realizar la donación por la plusvalía generada?

Si claro, si el valor actual es mayor que el de adquisición, se generará un incremento de patrimonio que tributa en renta.