¿El byte no es complemento a dos con signo?

Si observa la memoria real utilizada para almacenar -1 en byte firmado, entonces verás que es 0xff. Sin embargo, en el lenguaje mismo, más que en la representación binaria, 0xff simplemente está fuera del rango de un byte. La representación binaria de -1 de hecho, utilizará el complemento de dos, pero está protegido de ese detalle de implementación.

Los diseñadores del lenguaje simplemente adoptaron la postura de que tratar de almacenar 255 en un tipo de datos que solo puede contener -128 a 127 debería considerarse un error.

Usted pregunta en los comentarios por qué Java permite:

int i = 0xffffffff;

El literal 0xffffffff es un int literal y se interpreta usando complemento a dos. La razón por la que no puede hacer nada similar para un byte es que el lenguaje no proporciona sintaxis para especificar que un literal es del tipo byte, o de hecho short.

No sé por qué se tomó la decisión de no ofrecer tipos más literales. Supongo que se hizo por razones de simplicidad. Uno de los objetivos del lenguaje era evitar la complejidad innecesaria.

Puedes escribir

int i = 0xFFFFFFFF;

pero no puedes escribir

byte b = 0xFF;

como el 0xFF es un int valor no un byte por lo que es igual a 255. No hay forma de definir un byte o un literal corto, por lo que debe emitirlo.

Por cierto, puedes hacer

byte b = 0;
b += 0xFF;
b ^= 0xFF;

incluso

byte b = 30;
b *= 1.75; // b = 52.

es legal, pero debe convertirlo en byte explícitamente, es decir, (byte) 0xff porque está fuera de rango.

Literalmente, puede configurar un byte, pero sorprendentemente, debe usar más dígitos:

byte bad = 0xff; // doesn't work
byte b = 0xffffffff; // fine

La lógica es que 0xff es implícitamente 0x000000ff, lo que excede el rango de un byte. (255)

No es la primera idea que se te ocurre, pero tiene algo de lógica. El número más largo es un número más pequeño (y un valor absoluto más pequeño).

byte b = 0xffffffff; // -1 
byte c = 0xffffff81; // -127 
byte c = 0xffffff80; // -128

Los valores posibles para un byte rango de -128 a 127.

Sería posible dejar que los valores fuera del rango se asignen a la variable y descartar silenciosamente el desbordamiento, pero eso sería más confuso que conveniente.

Entonces tendríamos:

byte b = 128;
if (b < 0) {
  // yes, the value magically changed from 128 to -128...
}

En la mayoría de las situaciones, es mejor que el compilador le diga que el valor está fuera del rango que "arreglarlo" así.