search

inducer / relate

RELATE is an Environment for Learning And TEaching
http://documen.tician.de/relate
Other
383 stars 118 forks source link

Out of memory doing arithmetic with big integers #174

Open inducer opened 8 years ago

inducer commented 8 years ago

@mattwala discovered that entering something like

((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2)**2

in number-entry boxes makes Relate exhaust its memory crunching away on big integers.

inducer commented 8 years ago

Evaluation in floating point might remedy this.