Нейросеть не способна создать что-то новое, она может лишь отточить те параметры которые ей заданы до совершенства.
Одно из частных определений интеллекта, общее для всех, можно сформулировать так: «Интеллект — способность системы создавать в ходе самообучения программы (в первую очередь эвристические) для решения задач определённого класса сложности и решать эти задачи», поэтому что подаем на входе, то и "впитывает" в себя ИИ, соответственно на выходе будет нужны результат, качество которого зависит от количества обработанной информации на входе.
В теории ИИ различают «слабый» и «сильный» ИИ, а также «супер» ИИ. Различие заключается в том, что «слабый» не есть искусственный интеллект в том смысле, как его понимают. Это программы, которые решают конкретные локальные задачи в в конкретных областях: распознавания образов, экспертные системы и тд и
помогающие людям принимать решение. Но принятие решения лежит на человеке.
«Сильный» ИИ — это дальнейшее развитие ИИ, которое приведет к системам, по мышлению мало отличающимся от человеческого, способное к саморазвитию, самостоятельной поставке задач. Но без «слабого» ИИ построить «сильный» невозможно, так как для любого разума необходима связь с внешним миром, которая адекватно отображается и обрабатывается разумом.
«Супер» ИИ - никто еще не создал, да и небезопасно Это для человечества. Как только ИИ поймет смысл мироздания, она быстро избавиться от человека ))). Все же смотрели "Терминатора".
)
и нейронная сеть выдает вполне качественное музыкальное произведение, а не кашу какую-нибудь. 
Тогда как раз таки, мы способны напевать лишь то, что слышали уже когда-то. Но при этом также способны создавать уникальные композиции. 
Но вскоре люди на основе известных звуков создавали примитивы. А позже на основе чужих трудов Моцарт создавал свои шедевры. Вы же не хотите сказать, что он изобрел нечто совершенно иное и не похожее, чем уже существовавшая музыка.
